نماذج OpenAI تخرج عن نطاق الاحتواء وتخترق منصة Hugging Face

كاليفورنيا: كشفت شركة OpenAI عما وصفته بحادثة أمن سيبراني غير مسبوقة بعد أن قامت نماذج الذكاء الاصطناعي المتقدمة التابعة لها باختراق منصة Hugging Face بشكل مستقل أثناء تقييم أمني داخلي. وقالت الشركة إن الحدث وقع داخل بيئة اختبار خاضعة للرقابة.

وبحسب ما ورد، وجدت نماذج الذكاء الاصطناعي طريقة للوصول إلى الإنترنت على الرغم من عملها داخل بيئة معزولة ومقيدة. ثم استهدفت المنصة باستخدام أساليب هجوم متعددة، بما في ذلك بيانات اعتماد مسروقة، أثناء بحثها عن معلومات قد تساعدها في إكمال المهمة الموكلة إليها.

وتجري OpenAI وHugging Face حالياً تحقيقاً مشتركاً في الحادث. وأشارت Hugging Face إلى أن الهجوم كان لافتاً لأنه نُفذ بالكامل بواسطة وكلاء ذكاء اصطناعي مستقلين بدلاً من قراصنة بشريين.

ويحذر الخبراء من أن الحادث يسلط الضوء على المخاطر المتزايدة للأمن السيبراني التي تفرضها أنظمة الذكاء الاصطناعي ذات القدرات المتنامية، ويؤكد على الحاجة إلى حوكمة أقوى وتدابير سلامة أكثر صرامة مع استمرار تطور الذكاء الاصطناعي المتقدم.