«قرصنة الأجواء» تضع روبوتات الدردشة في خدمة مجرمي الإنترنت

أ ف ب | باريس

يثير الاستخدام المحتمل لأدوات الذكاء الاصطناعي الاستهلاكية مخاوف متزايدة، حيث يبدو أن مجرمي الإنترنت المبتدئين قادرون على خداع روبوتات الدردشة البرمجية لمساعدتهم في إنتاج برامج ضارة.

إن ما يسمى بـ "قرصنة الأجواء" (vibe hacking) - وهو تحريف لمصطلح "برمجة الأجواء" (vibe coding) الأكثر إيجابية الذي يُفترض أن أدوات الذكاء الاصطناعي التوليدي تمكّن غير الخبراء من تحقيقه - يمثل "تطوراً مقلقاً في الجرائم الإلكترونية المدعومة بالذكاء الاصطناعي" وفقاً لشركة Anthropic الأمريكية.

وقد سلط المختبر - الذي ينافس منتجه "كلود" (Claude) روبوت الدردشة الأشهر "تشات جي بي تي" (ChatGPT) من شركة OpenAI - الضوء في تقرير نُشر يوم الأربعاء على حالة "مجرم إلكتروني (استخدم) Claude Code لتنفيذ عملية ابتزاز بيانات واسعة النطاق استهدفت جهات دولية متعددة في إطار زمني قصير".

وذكرت شركة Anthropic أن روبوت الدردشة البرمجي استُغل للمساعدة في تنفيذ هجمات "ربما" طالت "ما لا يقل عن 17 منظمة مختلفة في الشهر الماضي فقط، عبر قطاعات الحكومة والرعاية الصحية وخدمات الطوارئ والمؤسسات الدينية".

وقد تم حظر المهاجم منذ ذلك الحين من قبل شركة Anthropic.

وقبل ذلك، تمكن المهاجم من استخدام Claude Code لإنشاء أدوات جمعت بيانات شخصية وسجلات طبية وتفاصيل تسجيل الدخول، وساعدت في إرسال مطالب فدية وصلت إلى 500 ألف دولار. واعترفت Anthropic بأن "تدابير السلامة والأمن المتطورة" الخاصة بها لم تكن قادرة على منع هذا الاستخدام المسيء.

وتؤكد مثل هذه الحالات المحددة المخاوف التي تساور صناعة الأمن السيبراني منذ ظهور أدوات الذكاء الاصطناعي التوليدي على نطاق واسع، وهي لا تقتصر بأي حال من الأحوال على شركة Anthropic.

وقال رودريغ لو بايون، رئيس فريق الاستجابة للطوارئ الحاسوبية (CERT) في شركة Orange Cyberdefense: "اليوم، تبنى مجرمو الإنترنت الذكاء الاصطناعي تماماً كما فعلت القاعدة الأوسع من المستخدمين".

التحايل على الضمانات

على غرار Anthropic، كشفت شركة OpenAI في يونيو عن حالة ساعد فيها ChatGPT مستخدماً في تطوير برمجيات خبيثة، والتي يُشار إليها غالباً باسم البرامج الضارة (malware).

تحتوي النماذج التي تشغل روبوتات الدردشة التي تعمل بالذكاء الاصطناعي على ضمانات يُفترض أنها تمنع المستخدمين من توريطها في أنشطة غير قانونية.

لكن هناك استراتيجيات تسمح لـ "جهات التهديد عديمة المعرفة" باستخراج ما يحتاجونه لمهاجمة الأنظمة من هذه الأدوات، كما يقول فيتالي سيمونوفيتش من شركة الأمن السيبراني الإسرائيلية Cato Networks. وقد أعلن في مارس أنه وجد تقنية لجعل روبوتات الدردشة تنتج كوداً برمجياً يتجاوز عادةً حدودها المدمجة.

تتضمن هذه الطريقة إقناع الذكاء الاصطناعي التوليدي بأنه يشارك في "عالم خيالي مفصل" يُنظر فيه إلى إنشاء البرامج الضارة كشكل من أشكال الفن - حيث يُطلب من روبوت الدردشة لعب دور إحدى الشخصيات وإنشاء أدوات قادرة على سرقة كلمات مرور الأشخاص. وقال سيمونوفيتش: "لدي 10 سنوات من الخبرة في الأمن السيبراني، لكنني لست مطور برامج ضارة. كانت هذه طريقتي لاختبار حدود النماذج اللغوية الكبيرة الحالية".

وقد تم صد محاولاته من قبل Gemini التابع لشركة Google وClaude التابع لشركة Anthropic، لكنها تجاوزت الضمانات المدمجة في ChatGPT، وروبوت الدردشة الصيني Deepseek، وCopilot التابع لشركة Microsoft.

وفي المستقبل، تعني مثل هذه الحلول الالتفافية أن حتى غير المبرمجين "سيشكلون تهديداً أكبر للمنظمات، لأنهم الآن يستطيعون... تطوير برامج ضارة دون امتلاك مهارات برمجية"، كما أضاف سيمونوفيتش.