الذكاء الاصطناعي يصبح أكثر ذكاءً دون مراقبتك

ت دي تي | المنامة

تختبر شركة OpenAI نظاماً جديداً مصمماً لجعل نماذج الذكاء الاصطناعي الخاصة بها أكثر أماناً دون الحاجة إلى الوصول إلى المحادثات الخاصة للعملاء.

يُطلق على النظام اسم "معالجة السلامة الخاصة" (Private Safety Processing)، وهو يستهدف عملاء الأعمال وواجهة برمجة التطبيقات الذين يستخدمون نماذج OpenAI الأكثر تقدماً. وقد صُمم النظام لاكتشاف الأنماط المشبوهة أو الضارة عبر تفاعلات متعددة مع الحفاظ على حماية "عدم الاحتفاظ بالبيانات".

تكمن التحدي في أن وكلاء الذكاء الاصطناعي الأكثر قدرة يمكنهم نشر سلوكيات محفوفة بالمخاطر عبر عدة تفاعلات، مما يجعل من الصعب تحديد التهديدات من خلال فحص طلب واحد فقط. وتقول OpenAI إن نهجها الجديد يمكنه اكتشاف تلك الأنماط دون منح موظفيها حق الوصول إلى محتوى العميل الأساسي.

عند اكتشاف خطر محتمل، ستتلقى OpenAI إشارة محدودة فقط حول نوع النشاط بدلاً من المطالبات أو الردود الفعلية. ويجري حالياً اختبار النظام مع عملاء مختارين، مع التخطيط لطرحه على نطاق أوسع لاحقاً.

تأتي هذه الخطوة في الوقت الذي تستخدم فيه الشركات الذكاء الاصطناعي بشكل متزايد في الأعمال الحساسة، مما يجعل الخصوصية والأمن من أكبر التحديات في المرحلة التالية من تبني الذكاء الاصطناعي.