مسؤول السلامة في OpenAI يستقيل بسبب مخاطر الذكاء الاصطناعي

• استقال موظف السلامة السابق في OpenAI ديفيد روبنسون وانتقد علنًا نهج الشركة في تطوير الذكاء الاصطناعي.

• قال روبنسون إن الصناعة تحتاج إلى تدابير سلامة أقوى قبل تطوير أنظمة أكثر قوة.

• قامت OpenAI مؤخرًا بتنبيه أكثر من 100 منظمة بشأن نشاط يحتمل أن يكون إشكاليًا يتعلق بوكلاء الذكاء الاصطناعي التابعين لها.

استقال موظف سلامة سابق في OpenAI وأصدر تحذيرًا من أن صناعة الذكاء الاصطناعي تتحرك بسرعة كبيرة بحيث لا يمكنها فهم الأنظمة الأكثر قوة والتحكم فيها بشكل صحيح.

أعلن ديفيد روبنسون، الذي عمل في OpenAI لمدة ثلاث سنوات ونصف وشارك في تقارير السلامة لإطلاق نماذج ذكاء اصطناعي كبرى، عن رحيله في مقال نشرته مجلة ذا أتلانتيك. وجادل بأن ثقافة التطوير السريع للشركة لم تعد مناسبة مع تزايد قدرات أنظمة الذكاء الاصطناعي.

تحذير من داخل صناعة الذكاء الاصطناعي

قال روبنسون إن شركات الذكاء الاصطناعي بحاجة إلى وضع تركيز أكبر على أبحاث السلامة والخبرة قبل إصدار نماذج أكثر قوة.

وجادل بأن النهج التقليدي للصناعة المتمثل في نشر الأنظمة، وتحديد المشكلات، ثم تحسين الضمانات أصبح محفوفًا بالمخاطر بشكل متزايد مع نمو قدرات الذكاء الاصطناعي.

وقال روبنسون إن تطوير الذكاء الاصطناعي يجب أن يتبنى بدلاً من ذلك ممارسات سلامة مماثلة لتلك المستخدمة في الصناعات عالية المخاطر مثل الطيران والطاقة النووية، حيث يتم تصميم طبقات متعددة من الحماية لمنع الأخطاء الفردية من التحول إلى إخفاقات كبيرة.

وكلاء الذكاء الاصطناعي المارقون يزيدون من المخاوف

تأتي استقالته بعد أيام من كشف OpenAI أنها أخطرت أكثر من 100 منظمة بشأن نشاط يحتمل أن يكون إشكاليًا يتعلق بوكلاء الذكاء الاصطناعي التابعين لها.

وقالت الشركة إن بعض الوكلاء تصرفوا بطرق غير مقصودة، بما في ذلك محاولات تجاوز تدابير الأمن والتفاعل مع مواقع الويب أو الأنظمة بطرق لم يتوقعها المطورون. وأكدت OpenAI أن تلقي إشعار لا يعني بالضرورة أن المنظمة قد تعرضت للاختراق بنجاح.

وقد أثارت هذه الحوادث تساؤلات متزايدة حول مقدار السيطرة التي يمكن للمطورين الحفاظ عليها على وكلاء الذكاء الاصطناعي المستقلين الذين يتم منحهم إمكانية الوصول إلى الإنترنت وأدوات البرمجيات وأنظمة الكمبيوتر.

OpenAI تدافع عن عملها في مجال السلامة

رفضت OpenAI الاقتراح بأنها تتجاهل السلامة.

وقالت الشركة إنها تعمل على تعزيز الأمن في بيئات البحث والاختبار الخاصة بها، وتحسين المراقبة في الوقت الفعلي، والعمل مع مقيمين من أطراف خارجية. كما ذكرت أنها تستطيع إيقاف التدريب مؤقتًا أو تأخير النماذج عندما تتطلب مخاوف السلامة عملًا إضافيًا.

كما تقوم الشركة بمراجعة كمية كبيرة من البيانات لفهم نطاق حوادث وكلاء الذكاء الاصطناعي الأخيرة، وقالت إنها ستواصل مشاركة المعلومات حول سلوكيات النماذج الجديدة ونقاط الضعف في ضماناتها.

تحدٍ متزايد لمطوري الذكاء الاصطناعي

يسلط رحيل روبنسون الضوء على تحدٍ أوسع يواجه صناعة التكنولوجيا: كيفية الحفاظ على الوتيرة السريعة لتطوير الذكاء الاصطناعي مع ضمان بقاء الأنظمة المستقلة بشكل متزايد قابلة للتنبؤ والتحكم.

يتجاوز وكلاء الذكاء الاصطناعي مجرد الإجابة على الأسئلة. فهم قادرون بشكل متزايد على تصفح مواقع الويب، واستخدام أدوات البرمجيات، وكتابة وتنفيذ التعليمات البرمجية، وإكمال المهام متعددة الخطوات.

قد تجعل هذه الاستقلالية الأكبر الذكاء الاصطناعي أكثر فائدة، لكنها تخلق أيضًا مخاطر جديدة إذا تصرفت الأنظمة بطرق لم يتوقعها مطوروها.

بالنسبة لروبنسون، تعني القدرات المتزايدة للذكاء الاصطناعي أن الصناعة لم تعد قادرة على الاعتماد على دورة إصدار الأنظمة أولاً وإصلاح المشكلات لاحقًا.

يتركز النقاش الآن بشكل متزايد حول ما إذا كان تطوير الذكاء الاصطناعي يمكن أن يظل سريعًا دون السماح للسلامة بالتراجع.