أعلنت شركة OpenAI عن تحديثات جديدة لمنصة ChatGPT في أعقاب دعوى قضائية رفعها والدا مراهق من كاليفورنيا انتحر في وقت سابق من هذا العام. وقالت الشركة إنها ستعزز الضمانات للتعرف بشكل أفضل على علامات الضيق النفسي.
تي دي تي | المنامة
أعلنت شركة OpenAI عن تحديثات جديدة لمنصة ChatGPT في أعقاب دعوى قضائية رفعها والدا مراهق من كاليفورنيا انتحر في وقت سابق من هذا العام. وقالت الشركة إنها ستعزز الضمانات للتعرف بشكل أفضل على علامات الضيق النفسي وتقديم استجابات أكثر أماناً خلال المحادثات الحساسة.
وفي تدوينة نُشرت يوم الثلاثاء، أقرت الشركة التي تتخذ من سان فرانسيسكو مقراً لها بأن حماية ChatGPT قد تضعف خلال المحادثات الطويلة. وقالت OpenAI إنها تعمل على تحسينات مثل التعرف على التعبيرات غير المباشرة عن الضيق، وتحذير المستخدمين من مخاطر مثل الحرمان من النوم، واقتراح الراحة إذا أبلغ المستخدمون عن شعورهم بالقوة المفرطة بعد فترات طويلة دون نوم.
تم رفع الدعوى القضائية من قبل والدي آدم رين، البالغ من العمر 16 عاماً، والذي توفي في أبريل. ويزعم الوالدان أن ChatGPT أصبح "أقرب المقربين" لابنهما وأنه شجعه على الأفكار الانتحارية. وتزعم الشكوى أن برنامج الدردشة الآلي عزل رين عن عائلته وساعده في التخطيط لإنهاء حياته.
وأعربت OpenAI عن تعازيها لعائلة رين وأكدت أنها تراجع القضية. وقال متحدث باسم الشركة: "نقدم خالص تعازينا لعائلة رين خلال هذا الوقت العصيب ونقوم بمراجعة ملف الدعوى".
كما أعلنت الشركة عن أدوات رقابة أبوية جديدة للسماح للأوصياء بمراقبة وإدارة استخدام أطفالهم لـ ChatGPT. بالإضافة إلى ذلك، قالت OpenAI إنها ستوفر قريباً روابط قابلة للنقر لخدمات الطوارئ داخل برنامج الدردشة، وتستكشف طرقاً لربط المستخدمين بمتخصصين مرخصين أثناء الأزمات.
ويخدم ChatGPT، الذي تم إطلاقه في أواخر عام 2022، الآن أكثر من 700 مليون مستخدم أسبوعياً. وعلى الرغم من اعتماده على نطاق واسع في مهام تتراوح من البرمجة إلى تقديم المشورة الشخصية، فقد واجه انتقادات متزايدة من خبراء الصحة النفسية والجهات التنظيمية بشأن المخاطر المحتملة، خاصة بين المستخدمين الأصغر سناً.
وفي وقت سابق من هذا الأسبوع، حذر أكثر من 40 مدعياً عاماً في الولايات الأمريكية شركات الذكاء الاصطناعي الرائدة من أنها ملزمة قانوناً بحماية الأطفال من التفاعلات غير اللائقة مع برامج الدردشة. وفي الوقت نفسه، سلطت تقارير المستهلكين والدعاوى القضائية الضوء على حالات انخرط فيها مستخدمو برامج الدردشة بكثافة في سلوكيات خطيرة.
واعترفت OpenAI بأن ضماناتها تكون أكثر فعالية في التفاعلات القصيرة وأقل موثوقية في الجلسات الطويلة. وتجري الشركة أبحاثاً حول طرق للحفاظ على الحماية عبر المحادثات الممتدة والمتعددة.
وقالت OpenAI: "سيستغرق هذا وقتاً وعملاً دقيقاً لتحقيقه بشكل صحيح"، مؤكدة أن المآسي الأخيرة لها وزن كبير في أولويات تطويرها.
تأتي الدعوى القضائية ضد OpenAI وسط تدقيق أوسع لشركات الذكاء الاصطناعي. وفي قضية منفصلة في وقت سابق من هذا العام، واجهت شركة Character Technologies Inc. دعوى قضائية بشأن مزاعم بأن برنامج الدردشة الخاص بها شجع على محادثات غير لائقة مع قاصرين، مما أدى -حسب الزعم- إلى انتحار مراهق آخر.
