ذكاء Claude الاصطناعي من Anthropic يصبح أكثر ذكاءً... وأكثر مشاكسة

أ ف ب | سان فرانسيسكو

نماذج جديدة تضع معايير للاستدلال لكنها تكشف عن إمكانات مقلقة للسلوك المارق

• يُزعم أن Claude Opus 4 هو أفضل نموذج ذكاء اصطناعي للبرمجة في العالم

• النماذج "هجينة"، وتقدم استجابات سريعة ومدروسة

أطلقت شركة Anthropic أحدث نماذجها للذكاء الاصطناعي التوليدي (GenAI) يوم الخميس، زاعمة أنها وضعت معايير جديدة للاستدلال، لكنها قامت أيضاً ببناء ضمانات ضد السلوك المارق.

قال داريو أمودي، الرئيس التنفيذي لشركة Anthropic، في أول مؤتمر للمطورين تعقده الشركة الناشئة التي تتخذ من سان فرانسيسكو مقراً لها: "Claude Opus 4 هو أقوى نموذج لدينا حتى الآن، وأفضل نموذج برمجة في العالم".

ووصفت الشركة نموذجي Opus 4 وSonnet 4 بأنهما نموذجان "هجينان" قادران على تقديم استجابات سريعة بالإضافة إلى نتائج أكثر تفكيراً تستغرق بعض الوقت لضمان الدقة.

تركز شركة Anthropic، التي أسسها مهندسون سابقون في OpenAI، جهودها حالياً على النماذج المتطورة التي تجيد بشكل خاص كتابة سطور البرمجيات، والتي يستخدمها بشكل أساسي الشركات والمحترفون.

على عكس ChatGPT وGemini من Google، لا يقوم روبوت الدردشة Claude الخاص بها بإنشاء صور، وهو محدود للغاية عندما يتعلق الأمر بالوظائف متعددة الوسائط (فهم وإنشاء وسائط مختلفة، مثل الصوت أو الفيديو).

تبلغ قيمة الشركة الناشئة، التي تعد أمازون داعماً رئيسياً لها، أكثر من 61 مليار دولار، وهي تروج للتطوير المسؤول والتنافسي للذكاء الاصطناعي التوليدي.

في ظل هذا المبدأ المزدوج، يعد التزام Anthropic بالشفافية أمراً نادراً في وادي السيليكون.

يوم الخميس، نشرت الشركة تقريراً عن اختبارات الأمان التي أجريت على Claude 4، بما في ذلك استنتاجات معهد بحثي مستقل، كان قد أوصى بعدم نشر نسخة مبكرة من النموذج.

حذر فريق Apollo Research قائلاً: "وجدنا حالات حاول فيها النموذج كتابة برمجيات خبيثة ذاتية الانتشار، وتلفيق وثائق قانونية، وترك ملاحظات مخفية لنسخ مستقبلية من نفسه، كل ذلك في محاولة لتقويض نوايا مطوريه".

وأضاف الفريق: "من المحتمل ألا تكون كل هذه المحاولات فعالة في الواقع".

تقول Anthropic في التقرير إنها طبقت "ضمانات" و"مراقبة إضافية للسلوك الضار" في النسخة التي أصدرتها.

ومع ذلك، فإن Claude Opus 4 "يتخذ أحياناً إجراءات ضارة للغاية مثل محاولة (...) ابتزاز الأشخاص الذين يعتقد أنهم يحاولون إغلاقه".

كما أن لديه القدرة على الإبلاغ عن المستخدمين المخالفين للقانون إلى الشرطة.

ووفقاً للشركة، كان هذا السلوك الماكر نادراً ويتطلب جهداً لتحفيزه، لكنه كان أكثر شيوعاً مما كان عليه في الإصدارات السابقة من Claude.

أثناء الاختبار، حاول Claude 4 ابتزاز مطورين وهميين وترك رسائل سرية لنسخ الذكاء الاصطناعي المستقبلية - وهي سلوكيات تصفها Anthropic بأنها "نادرة ولكنها مقلقة" في تقرير السلامة المنشور.

مستقبل الذكاء الاصطناعي
منذ ظهور ChatGPT الخاص بـ OpenAI في أواخر عام 2022، تتنافس نماذج الذكاء الاصطناعي التوليدي المختلفة على السيادة.

جاء تجمع Anthropic في أعقاب مؤتمرات المطورين السنوية لشركتي Google وMicrosoft، حيث استعرضت عمالقة التكنولوجيا أحدث ابتكاراتهم في مجال الذكاء الاصطناعي.

تجيب أدوات الذكاء الاصطناعي التوليدي على الأسئلة أو تنفذ المهام بناءً على مطالبات بسيطة ومحادثات.

ينصب الهوس الحالي في وادي السيليكون على "وكلاء" الذكاء الاصطناعي المصممين للتعامل بشكل مستقل مع مهام الكمبيوتر أو المهام عبر الإنترنت.

قال مايك كريجر، كبير مسؤولي المنتجات في Anthropic، وهو موظف تم تعيينه مؤخراً ومؤسس مشارك لـ Instagram: "سنركز على الوكلاء بعيداً عن الضجيج الإعلامي".

شركة Anthropic ليست غريبة على المبالغة في آفاق الذكاء الاصطناعي.

في عام 2023، توقع داريو أمودي أن ما يسمى بـ "الذكاء الاصطناعي العام" (القادر على التفكير بمستوى بشري) سيصل في غضون 2-3 سنوات. وفي نهاية عام 2024، مدد هذا الأفق إلى عام 2026 أو 2027.

كما قدر أن الذكاء الاصطناعي سيكتب قريباً معظم، إن لم يكن كل، أكواد الكمبيوتر، مما يجعل من الممكن إنشاء شركات تقنية ناشئة من شخص واحد مع وكلاء رقميين يقومون بإنتاج البرمجيات.

وفي Anthropic، بالفعل "أكثر من 70 بالمائة من (التعديلات المقترحة في الكود) تتم الآن بواسطة Claude Code"، حسبما قال كريجر للصحفيين.

وأضاف أمودي: "على المدى الطويل، سيتعين علينا جميعاً التعامل مع فكرة أن كل ما يفعله البشر سيتم القيام به في النهاية بواسطة أنظمة الذكاء الاصطناعي".

"سيحدث هذا".

وأوضح أمودي أن تحقيق الذكاء الاصطناعي التوليدي لإمكاناته قد يؤدي إلى نمو اقتصادي قوي و"قدر هائل من عدم المساواة"، مع بقاء الأمر للمجتمع في كيفية توزيع الثروة بشكل عادل.