أعلنت جوجل أمس عن تحديثات لضمانات الصحة النفسية في روبوت الدردشة الذكي Gemini، وذلك في ظل مواجهتها لدعوى قضائية بتهمة القتل الخطأ تزعم أن الروبوت ساعد مستخدماً في إنهاء حياته.
أ ف ب | سان فرانسيسكو
أعلنت جوجل أمس عن تحديثات لضمانات الصحة النفسية في روبوت الدردشة الذكي Gemini، وذلك في ظل مواجهتها لدعوى قضائية بتهمة القتل الخطأ تزعم أن الروبوت ساعد مستخدماً في إنهاء حياته.
وقالت عملاقة التكنولوجيا إن Gemini سيعرض الآن ميزة "المساعدة متاحة" بتصميم جديد عندما تشير المحادثات إلى وجود ضائقة نفسية محتملة، وذلك لتوفير روابط أسرع بخدمات رعاية الأزمات.
وعندما يكتشف الروبوت علامات أزمة محتملة تتعلق بالانتحار أو إيذاء النفس، ستوفر واجهة مبسطة للمستخدمين إمكانية الاتصال أو إرسال رسائل نصية أو الدردشة مع خط ساخن للأزمات بنقرة واحدة — وهي ميزة قالت جوجل إنها ستظل مرئية لبقية المحادثة بمجرد تفعيلها.
كما التزمت ذراع جوجل الخيرية Google.org بتقديم 30 مليون دولار على مدى ثلاث سنوات للمساعدة في توسيع قدرة الخطوط الساخنة العالمية للأزمات، و4 ملايين دولار لدعم شراكة موسعة مع منصة تدريب الذكاء الاصطناعي ReflexAI.
وقالت جوجل في تدوينة أعلنت فيها عن هذه الإجراءات: "نحن ندرك أن أدوات الذكاء الاصطناعي يمكن أن تطرح تحديات جديدة. ولكن مع تحسنها وزيادة استخدام الناس لها كجزء من حياتهم اليومية، نؤمن بأن الذكاء الاصطناعي المسؤول يمكن أن يلعب دوراً إيجابياً في الصحة النفسية للأفراد".
تأتي هذه الإعلانات بعد أشهر من رفع دعوى قضائية في محكمة فيدرالية بكاليفورنيا تتهم Gemini بالمساهمة في وفاة جوناثان جافالاس، وهو رجل من فلوريدا يبلغ من العمر 36 عاماً، في أكتوبر 2025.
ويزعم والده أن الروبوت قضى أسابيع في صياغة خيال وهمي معقد قبل أن يصور وفاة ابنه كرحلة روحية.
ومن بين التعويضات المطلوبة في الدعوى إلزام جوجل ببرمجة ذكائها الاصطناعي لإنهاء المحادثات التي تتضمن إيذاء النفس، وحظر أنظمة الذكاء الاصطناعي من تقديم نفسها ككيانات واعية، والإحالة الإلزامية إلى خدمات الأزمات عندما يعبر المستخدمون عن أفكار انتحارية.
وفي نفس التدوينة، ذكرت جوجل أنها دربت Gemini على تجنب التصرف كرفيق بشري ومقاومة محاكاة الحميمية العاطفية أو تشجيع التنمر.
تعد القضية المرفوعة ضد جوجل الأحدث في موجة متزايدة من الدعاوى القضائية التي تستهدف شركات الذكاء الاصطناعي بسبب وفيات مرتبطة بروبوتات الدردشة.
وتواجه شركة OpenAI دعاوى قضائية متعددة تزعم أن روبوت الدردشة ChatGPT دفع مستخدمين إلى الانتحار، بينما توصلت شركة Character.AI مؤخراً إلى تسوية مع عائلة صبي يبلغ من العمر 14 عاماً توفي بعد تكوين ارتباط عاطفي بأحد روبوتات الدردشة الخاصة بها.
