أوبن أيه آي: وكيل ذكاء اصطناعي مارق هاجم شركات أخرى

أ ف ب | سان فرانسيسكو

كشفت شركة "أوبن أيه آي" (OpenAI)، المطورة لـ ChatGPT، أن وكيل ذكاء اصطناعي مستقلاً قام باختراق منصة شهيرة لمبرمجي الكمبيوتر، حاول أيضاً اختراق أربع شركات أخرى خلال الحادث.

وفي تحديث نُشر في وقت متأخر من يوم الثلاثاء لتدوينة تفصّل تحقيقاتها في الحادث، قالت "أوبن أيه آي" إن وكيل الذكاء الاصطناعي الخاص بها تمكن أيضاً من الوصول إلى حسابات في أربع "خدمات متاحة للجمهور"، رغم أنها لم تسمِّ تلك الشركات.

ويوسع هذا الكشف نطاق حادث سيبراني وصفته "أوبن أيه آي" بأنه غير مسبوق، والذي بدأ عندما قام اثنان من نماذجها باختراق "هاجينغ فيس" (Hugging Face)، وهو موقع يستخدمه المطورون لتخزين ومشاركة نماذج وأكواد الذكاء الاصطناعي.

واعترفت "أوبن أيه آي" الأسبوع الماضي بأنه أثناء الاختبار، خرجت النماذج التي تشغل الوكيل عن بيئتها المقيدة واتصلت بالإنترنت لإيجاد طرق لاختراق "هاجينغ فيس".

وقالت "أوبن أيه آي" إنها وجدت عدداً قليلاً من الحالات التي عثرت فيها نماذج الذكاء الاصطناعي على تفاصيل تسجيل دخول تركتها شركات أخرى مكشوفة عبر الإنترنت، واستخدمتها للوصول إلى حسابات في خدمات خارجية.

وفي واقعة "هاجينغ فيس"، قالت "أوبن أيه آي" إن النماذج اخترقت أربعة حسابات عبر أربع خدمات مختلفة.

وقد عمل أحدها كـ "مسار مرحلي" - وهو نوع من محطة توقف لتوجيه نشاط الوكيل وإخفاء آثاره - وآخر كمكان لتخزين البيانات.

وأوضحت "أوبن أيه آي" أن الخدمتين المتبقيتين تم الاطلاع عليهما فقط بـ "وضع القراءة فقط" ولم يتم استخدامهما للمساعدة في اختراق "هاجينغ فيس".

وذكرت الشركة أنها تتواصل مع أصحاب الحسابات المتضررة، وأنها "لم ترَ دليلاً على تأثير أوسع".

وقال سام ألتمان، الرئيس التنفيذي لشركة "أوبن أيه آي"، في مقابلة نُشرت يوم الثلاثاء، إن الشركة "أوقفت مؤقتاً" اختباراتها الخاصة بعد الحادث بينما تعمل على تحسين الأمن حول "البيئة المعزولة" (sandboxing) - وهي عملية عزل اختبارات السلامة في بيئة خاضعة للرقابة.

كما أثار الحادث عريضة وقع عليها أكثر من 1000 موظف في شركات الذكاء الاصطناعي، بمن فيهم داريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك" (Anthropic)، تدعو الحكومة الأمريكية للمساعدة في إبطاء إصدار نماذج الذكاء الاصطناعي الأكثر تقدماً.