أعلنت شركة ميتا يوم الخميس أنها تطور أدوات جديدة لحماية المستخدمين المراهقين من عمليات "الابتزاز الجنسي" على منصة إنستغرام، التي واجهت اتهامات من سياسيين أمريكيين بالإضرار بالصحة النفسية للشباب.
أ ف ب | باريس
صحيفة ديلي تريبيون – www.newsofbahrain.com
أعلنت شركة ميتا يوم الخميس أنها تطور أدوات جديدة لحماية المستخدمين المراهقين من عمليات "الابتزاز الجنسي" على منصة إنستغرام، التي واجهت اتهامات من سياسيين أمريكيين بالإضرار بالصحة النفسية للشباب.
وتدير عصابات عمليات ابتزاز جنسي من خلال إقناع الأشخاص بتقديم صور فاضحة لأنفسهم ثم تهديدهم بنشرها للعامة ما لم يحصلوا على المال.
وقالت ميتا إنها تختبر أداة "حماية من العري" تعتمد على الذكاء الاصطناعي، والتي ستقوم بالعثور على الصور التي تحتوي على عري وتعتيمها عند إرسالها إلى القاصرين عبر نظام المراسلة في التطبيق.
وقالت كابوسين توفييه، المسؤولة عن حماية الأطفال في شركة ميتا فرنسا، لوكالة فرانس برس: "بهذه الطريقة، لا يتعرض المتلقي لمحتوى حميمي غير مرغوب فيه، ويكون لديه الخيار في رؤية الصورة أو عدم رؤيتها".
وذكرت الشركة الأمريكية أنها ستقدم أيضاً نصائح وإرشادات أمان لأي شخص يرسل أو يتلقى مثل هذه الرسائل.
ووفقاً للسلطات الأمريكية، وقع حوالي 3000 شاب ضحية لعمليات الاستغلال الجنسي في عام 2022 في الولايات المتحدة.
وبشكل منفصل، بدأت أكثر من 40 ولاية أمريكية في مقاضاة شركة ميتا في أكتوبر في قضية تتهم الشركة بأنها "تربح من آلام الأطفال".
وزعمت الدعوى القضائية أن ميتا استغلت المستخدمين الشباب من خلال إنشاء نموذج عمل مصمم لزيادة الوقت الذي يقضونه على المنصة رغم الأضرار التي تلحق بصحتهم.
- 'تعلم الآلة على الجهاز' -
أعلنت ميتا في يناير أنها ستطرح تدابير لحماية من هم دون سن 18 عاماً، تشمل تشديد قيود المحتوى وتعزيز أدوات الرقابة الأبوية.
وقالت الشركة يوم الخميس إن الأدوات الأخيرة تبني على "عملنا طويل الأمد للمساعدة في حماية الشباب من الاتصالات غير المرغوب فيها أو التي قد تكون ضارة".
وأضافت الشركة: "نحن نختبر ميزات جديدة للمساعدة في حماية الشباب من الابتزاز الجنسي وإساءة استخدام الصور الحميمة، ولجعل من الصعب على المحتالين والمجرمين المحتملين العثور على المراهقين والتفاعل معهم".
وأضافت أن أداة "حماية العري" تستخدم "تعلم الآلة على الجهاز"، وهو نوع من الذكاء الاصطناعي، لتحليل الصور.
وأكدت الشركة، التي تواجه أيضاً اتهامات مستمرة بانتهاك خصوصية بيانات مستخدميها، أنها لن تتمكن من الوصول إلى الصور ما لم يقم المستخدمون بالإبلاغ عنها.
وقالت ميتا إنها ستستخدم أيضاً أدوات الذكاء الاصطناعي لتحديد الحسابات التي ترسل مواد مسيئة وتقييد قدرتها بشكل كبير على التفاعل مع المستخدمين الشباب على المنصة.
وكانت المُبلغة عن المخالفات فرانسيس هاوجين، وهي مهندسة سابقة في فيسبوك، قد نشرت في عام 2021 أبحاثاً أجرتها شركة ميتا داخلياً - التي كانت تُعرف آنذاك باسم فيسبوك - أظهرت أن الشركة كانت تدرك منذ فترة طويلة المخاطر التي تشكلها منصاتها على الصحة النفسية للشباب.
