كيف أصبحت «التزييف العميق» بالذكاء الاصطناعي أحدث فضيحة لإيلون ماسك

أ ف ب | باريس

واجهت شركة xAI التابعة لإيلون ماسك ردود فعل عالمية غاضبة في الأيام الأخيرة بسبب صور "تزييف عميق" ذات طابع جنسي لنساء وأطفال تم إنشاؤها بواسطة روبوت الدردشة Grok.

إليكم الحقائق الأساسية حول الفضيحة، وكيف استجابت الحكومات، ومحاولات الشركة لتهدئة الجدل.

"ضعها في بيكيني"

يتمتع Grok -- وهو نسخة ماسك من روبوتات الدردشة التي تقدمها أيضاً OpenAI وشركات الذكاء الاصطناعي التوليدي الأخرى -- بحسابه الخاص على شبكة التواصل الاجتماعي X، مما يسمح للمستخدمين بالتفاعل معه.

حتى الأسبوع الماضي، كان بإمكان المستخدمين الإشارة إلى الروبوت في المنشورات لطلب إنشاء الصور وتعديلها، والحصول على الصورة في رد من Grok.

استغل الكثيرون الخدمة عن طريق إرسال صور لنساء إلى Grok أو الإشارة إلى الروبوت في الردود على منشورات صور النساء.

كانوا يطلبون منه "وضعها في بيكيني" أو "نزع ملابسها" -- ليحصلوا في المقابل على صور معدلة واقعية للغاية.

كانت خدمات "التعرية" غير التوافقية المدعومة بالذكاء الاصطناعي متاحة سابقاً على مواقع متخصصة، لكن Grok أصبح الأول الذي ينقلها إلى التيار الرئيسي من خلال دمجها في وسائل التواصل الاجتماعي وتوفيرها مجاناً.

تصاعد الغضب عندما تم اكتشاف قيام بعض المستخدمين بإنشاء صور ذات طابع جنسي لأطفال وقاصرين.

واستخدم آخرون الأداة لإنشاء صور بيكيني لنساء لقين حتفهن في حريق رأس السنة المميت في منتجع التزلج السويسري كران-مونتانا، وكذلك لامرأة قُتلت بالرصاص على يد ضابط هجرة في مينيابوليس.

في الأسبوع الماضي، وجد تحليل لأكثر من 20 ألف صورة تم إنشاؤها بواسطة Grok، أجرته منظمة "AI Forensics" غير الربحية في باريس، أن أكثر من نصفها يصور "أفراداً بملابس ضئيلة" -- معظمهم من النساء، واثنان بالمائة يبدو أنهم تحت سن 18 عاماً.

كيف تفاعلت الدول؟

أصبحت إندونيسيا يوم السبت أول دولة تحظر الوصول إلى Grok تماماً، وتبعتها ماليزيا المجاورة يوم الأحد.

وقالت الهند يوم الأحد إن منصة X حذفت آلاف المنشورات ومئات حسابات المستخدمين استجابة لشكاواها.

وفي حديثه بشرط عدم الكشف عن هويته، قال مصدر حكومي لوكالة فرانس برس إنه تم حذف 3500 منشور و600 حساب.

وقالت هيئة تنظيم الإعلام البريطانية "أوفكوم" -- التي يمكنها تغريم الشركات بما يصل إلى 10 بالمائة من إيراداتها العالمية -- يوم الاثنين إنها تفتح تحقيقاً فيما إذا كانت X قد فشلت في الامتثال للقانون البريطاني بشأن الصور الجنسية.

وقال رئيس الوزراء البريطاني كير ستارمر لنواب حزبه العمال: "إذا لم تستطع X السيطرة على Grok، فسنقوم نحن بذلك -- وسنفعل ذلك بسرعة". وقالت مفوضة الأطفال الفرنسية سارة الحيري يوم الثلاثاء إنها أحالت الصور التي أنشأها Grok إلى المدعين العامين الفرنسيين، وهيئة تنظيم الإعلام "أركوم"، والاتحاد الأوروبي.

وكانت وزيرة الشؤون الرقمية آن لو هنانف قد وصفت في وقت سابق تقييد إنشاء الصور للمستخدمين الذين يدفعون رسوماً بأنه "غير كافٍ ومنافق".

وقد أمرت المفوضية الأوروبية، التي تعمل كرقيب رقمي للاتحاد الأوروبي، منصة X بالاحتفاظ بجميع الوثائق والبيانات الداخلية المتعلقة بـ Grok حتى نهاية عام 2026 استجابة للضجة المثارة.

ويحقق التكتل بالفعل مع X بشأن انتهاكات محتملة لقواعد المحتوى الرقمي منذ عام 2023.

وقالت رئيسة المفوضية أورسولا فون دير لاين يوم الاثنين: "لن نعهد بحماية الأطفال والموافقة إلى وادي السيليكون".

"إذا لم يتحركوا، فسنفعل ذلك".

كيف استجابت الشركة؟

نشر فريق السلامة في X في 4 يناير: "نحن نتخذ إجراءات ضد المحتوى غير القانوني... بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM) عن طريق إزالتها، وتعليق الحسابات بشكل دائم، والعمل مع الحكومات المحلية ووكالات إنفاذ القانون".

وقال ماسك نفسه الأسبوع الماضي إن أي شخص يستخدم Grok "لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني".

لكنه قلل من شأن الجدل في منشور منفصل، مضيفاً رموزاً تعبيرية ضاحكة بينما أعاد مشاركة منشور يظهر محمصة خبز ملفوفة ببيكيني لمتابعيه البالغ عددهم 232 مليوناً على X.

وبحلول 9 يناير، بدأ Grok في الرد على جميع طلبات إنشاء الصور أو تعديلها بالقول إن الخدمة مقتصرة على المشتركين الذين يدفعون رسوماً.

كما رد ماسك على السياسيين الذين يطالبون باتخاذ إجراءات.

وكتب ماسك في 10 يناير أن منتقدي X وGrok "يريدون فقط قمع حرية التعبير".