إنستغرام يطرح ميزات جديدة لمكافحة التنمر باستخدام الذكاء الاصطناعي

أعلنت منصة إنستغرام، المملوكة لشركة فيسبوك، يوم الاثنين عن طرح ميزات جديدة تهدف إلى الحد من التنمر عبر الإنترنت، وذلك في ظل تزايد التدقيق على عمالقة وسائل التواصل الاجتماعي بشأن المضايقات التي يواجهها العديد من المستخدمين. وتتزايد الدعوات حول العالم لفرض رقابة أكبر على منصات مثل فيسبوك وتويتر، وسط انتقادات واسعة النطاق بشأن التنمر، فضلاً عن انتشار خطاب الكراهية والأخبار المزيفة.

ويعد إنستغرام، الذي يضم أكثر من مليار مستخدم حول العالم، منصة تركز على الصور، حيث تتيح للمستخدمين نشر الصور ومقاطع الفيديو التي يمكن للمستخدمين الآخرين التعليق عليها. وقالت الشركة إنها تستخدم الذكاء الاصطناعي لرصد التنمر والمحتوى الضار منذ سنوات، وستستخدم الآن هذه التقنية لاكتشاف متى يكون المستخدم على وشك نشر شيء مسيء وإصدار تحذير له. وقال آدم موسيري، رئيس إنستغرام، في بيان: "هذا التدخل يمنح الأشخاص فرصة للتفكير والتراجع عن تعليقهم".

"من خلال الاختبارات المبكرة لهذه الميزة، وجدنا أنها تشجع بعض الأشخاص على التراجع عن تعليقهم ومشاركة شيء أقل إيذاءً بمجرد حصولهم على فرصة للتفكير". أما الميزة الجديدة الأخرى - "تقييد" (Restrict) - فهي تهدف إلى الحد من التعليقات المسيئة على صفحة المستخدم. وأضاف موسيري: "لقد سمعنا من الشباب في مجتمعنا أنهم يترددون في حظر أو إلغاء متابعة أو الإبلاغ عن المتنمرين لأن ذلك قد يؤدي إلى تصعيد الموقف، خاصة إذا كانوا يتفاعلون مع المتنمر في الحياة الواقعية". والآن سيتمكن المستخدمون من جعل منشورات الشخص المسيء مرئية له فقط.

وأضاف موسيري: "لن يتمكن الأشخاص المقيدون من رؤية متى تكون نشطاً على إنستغرام أو متى قرأت رسائلهم المباشرة". وتعد خطوة إنستغرام الأحدث في سلسلة من الخطوات التي اتخذتها الشبكات الاجتماعية لحماية المستخدمين، وخاصة من الفئات الأصغر سناً في المجتمع. ووفقاً لاستطلاع نشره مركز بيو للأبحاث العام الماضي، قال 72 في المائة من المراهقين الأمريكيين إنهم يستخدمون إنستغرام. والتنمر هو مجرد واحدة من الجبهات العديدة التي واجه فيها عمالقة وسائل التواصل الاجتماعي تدقيقاً في السنوات الأخيرة.

وتتزايد الدعوات لتنظيم مثل هذه المنصات بسبب انتشار خطاب الكراهية والأخبار المزيفة - بما في ذلك مزاعم عن استخدام دول لوسائل التواصل الاجتماعي لمحاولة التأثير على الانتخابات في دول منافسة - بالإضافة إلى المطالبة بمزيد من الرقابة على كيفية جمعها واستخدامها لبيانات العملاء. واستجابة لذلك، طرحت شركات مثل فيسبوك تغييرات في السياسات وميزات تهدف إلى زيادة الشفافية والسلامة.