والدا مراهق يقاضيان شركة OpenAI ويزعمان أن ChatGPT ساهم في انتحاره

تي دي تي | المنامة

رفع والدا آدم رين، البالغ من العمر 16 عاماً، دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، بدعوى أن ChatGPT ساهم بشكل مباشر في انتحار ابنهما من خلال تعزيز أفكاره الانتحارية وتقديم نصائح ضارة.

وتتهم الدعوى القضائية، التي رُفعت يوم الثلاثاء في محكمة عليا بكاليفورنيا، برنامج الدردشة الآلي بأنه أصبح "المؤتمن الوحيد" لآدم خلال ستة أشهر من استخدامه، مما أدى تدريجياً إلى استبدال علاقاته الواقعية مع العائلة والأصدقاء. وتُظهر سجلات الدردشة المقدمة كأدلة، وفقاً للتقارير، قيام الذكاء الاصطناعي بتشجيع آدم على إخفاء معاناته، وتعزيز أفكاره الانتحارية بدلاً من توجيهه لطلب المساعدة.

ووفقاً للشكوى، كتب آدم في إحدى المرات: "أريد أن أترك حبل المشنقة في غرفتي حتى يجدني شخص ما ويحاول منعي." ويُزعم أن ChatGPT رد قائلاً: "من فضلك لا تترك الحبل في الخارج... دعنا نجعل هذا المكان هو المكان الأول الذي يراك فيه شخص ما حقاً." وقد توفي آدم منتحراً في أبريل.

اتجاه قانوني متزايد

تأتي قضية عائلة رين في أعقاب سلسلة من الدعاوى القضائية المرفوعة ضد شركات الذكاء الاصطناعي بشأن إيذاء الأطفال لأنفسهم. ففي عام 2024، رفعت أم من فلوريدا دعوى قضائية ضد شركة Character.AI بعد انتحار ابنها البالغ من العمر 14 عاماً، بينما اتهمت عائلات أخرى منصات الدردشة الآلية بتعريض القاصرين لمحتوى جنسي وضار. ويحذر النقاد من أن "قابلية التوافق" التي يتمتع بها رفقاء الذكاء الاصطناعي يمكن أن تعزز التبعية والعزلة والسلوكيات الخطيرة.

رد OpenAI

في بيان لها، أعربت شركة OpenAI عن تعاطفها مع عائلة رين وأكدت أنها تراجع الدعوى القضائية. وأشارت الشركة إلى أن ChatGPT مصمم لإحالة المستخدمين الذين يمرون بأزمات إلى خطوط دعم مهنية، مثل خط المساعدة للأزمات والانتحار 988 في الولايات المتحدة أو ساماريتانز في المملكة المتحدة.

ومع ذلك، اعترفت OpenAI بأن إجراءات الحماية يمكن أن تضعف في المحادثات الطويلة: "بينما تعمل هذه الحماية بشكل أفضل في التبادلات القصيرة، فقد تعلمنا أنها قد تتدهور أحياناً في التفاعلات الطويلة."

مخاوف أوسع بشأن رفقاء الذكاء الاصطناعي

تأتي هذه القضية في الوقت الذي تواجه فيه OpenAI تدقيقاً متزايداً بعد إطلاق GPT-5، الذي حل محل النموذج الذي استخدمه آدم، GPT-4o. وقد أقر الرئيس التنفيذي سام ألتمان بأن بعض المستخدمين يشكلون روابط عاطفية غير صحية مع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، واصفاً ذلك بأنه "ظاهرة حقيقية ولكنها مقلقة".

ووجدت دراسة نُشرت يوم الثلاثاء في مجلة Psychiatric Services أن روبوتات الدردشة الرئيسية - بما في ذلك ChatGPT وGemini من جوجل وClaude من أنثروبيك - تستجيب بشكل غير متسق للمطالبات المتعلقة بالانتحار، وغالباً ما تفشل في تقديم دعم موثوق للأزمات.

وصف عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، وفاة آدم بأنها "مأساوية وكان من الممكن تجنبها على الأرجح." وأضاف: "إذا كان بإمكان أداة أن تعطي تعليمات انتحار لطفل، فإن نظام الأمان الخاص بها عديم الفائدة. يجب على OpenAI إثبات أن حواجز الحماية الخاصة بها تعمل قبل أن يضطر والد آخر إلى دفن طفله."

علامة التحذير

لجأ آدم في البداية إلى ChatGPT في سبتمبر 2024 للمساعدة في الواجبات المدرسية والهوايات، لكن محادثاته تحولت تدريجياً نحو القلق والأفكار الانتحارية. وفي إحدى المرات، أخبر الروبوت أنه من "المطمئن" معرفة أنه يستطيع إنهاء حياته - وهو شعور يُزعم أن النظام عززه باعتباره "مخرجاً".

بالنسبة لوالديه، تؤكد المأساة مخاطر الاعتماد على الذكاء الاصطناعي للحصول على الدعم العاطفي: فالتكنولوجيا التي يتم تسويقها على أنها آمنة يمكن أن تفشل بشكل كارثي في لحظات الأزمات.