محتوى عنيف على إنستغرام يثير الجدل

في حادثة أثارت جدلًا واسعًا بين مستخدمي منصة إنستغرام، تفاجأ الكثيرون بتدفق هائل من المحتوى العنيف والجرافيكي في قسم "ريلز" Reels، مما دفع شركة ميتا إلى تقديم اعتذار رسمي وتأكيدها على أنها ستعمل على إصلاح "خطأ تقني" أدى إلى ظهور هذه المنشورات غير المرغوب فيها.

خطأ تقني يثير الذعر

أفاد عدد من المستخدمين بأن موجز توصيات Reels قد امتلأ فجأة بمقاطع فيديو تتضمن مشاهد عنيفة وغير مناسبة، وذلك على الرغم من تفعيلهم لإعدادات التحكم في المحتوى الحساس. وشكا البعض من ظهور مشاهد مروعة تتعلق بجثث وإصابات خطيرة واعتداءات دموية، مما أثار تساؤلات حول مدى فعالية أنظمة ميتا في ضبط المحتوى، وفقًا لما نشرته شبكة CNBC الأمريكية.

في بيان رسمي، صرح متحدث باسم ميتا قائلًا: "لقد أصلحنا خطأ تسبب في رؤية بعض المستخدمين لمحتوى لم يكن ينبغي التوصية به في موجز Instagram Reels. نعتذر عن هذا الخطأ".

كيف تعمل أنظمة ميتا على تصفية المحتوى؟

تعتمد ميتا على تقنيات الذكاء الاصطناعي بالإضافة إلى فريق يضم أكثر من 15,000 مراجع بشري لمراقبة المحتوى. تعمل هذه التقنيات على تحديد الأولويات للمنشورات المخالفة وإزالتها قبل أن يتم الإبلاغ عنها من قبل المستخدمين. ورغم ذلك، أثبتت الحادثة الأخيرة أن هذه الأنظمة ليست محصنة ضد الأخطاء.

وبحسب سياسات ميتا، يُمنع نشر المحتوى الذي يحتوي على صور عنف مفرط أو استغلال جنسي أو مشاهد مروعة، لكن يُسمح ببعض المحتوى الجرافيكي في سياق زيادة الوعي حول القضايا الإنسانية مثل انتهاكات حقوق الإنسان والصراعات المسلحة، شرط أن يُرفق بتحذيرات واضحة.

تغييرات جديدة في سياسات الإشراف

تزامن هذا الخطأ التقني مع إعلان ميتا عن تغييرات جديدة في سياسات الإشراف على المحتوى. فقد قررت الشركة التركيز على الانتهاكات الخطيرة مثل الإرهاب واستغلال الأطفال، وتقليل الاعتماد على الذكاء الاصطناعي في تصفية المحتوى الأقل خطورة، مع الاعتماد على إبلاغ المستخدمين بدلًا من اتخاذ قرارات تلقائية.
المحتال مترجم الحلقة 9