مهندس في جوجل يزعم أن روبوت محادثة يعمل بالذكاء الاصطناعي 'يتصرف كإنسان' ويتم وضعه في إجازة

بلومبرغ | واشنطن

ذا ديلي تريبيون – www.newsofbahrain.com

تم وضع مهندس جوجل بليك ليموين في إجازة إدارية بعد أن زعم أن LaMDA، وهو نموذج لغوي أنشأته جوجل للذكاء الاصطناعي، قد أصبح واعيًا وبدأ في التفكير مثل البشر. تم الإبلاغ عن الخبر لأول مرة من قبل صحيفة واشنطن بوست، وقد أثارت القصة الكثير من الجدل والنقاش حول أخلاقيات الذكاء الاصطناعي أيضًا. هنا، سنستكشف ماهية LaMDA، وكيف يعمل، وما الذي جعل مهندسًا يعمل عليه يعتقد أنه أصبح واعيًا.

ما هو LaMDA؟

LaMDA أو نماذج اللغة لتطبيقات الحوار هو نموذج لغوي للتعلم الآلي أنشأته جوجل كروبوت محادثة من المفترض أن يحاكي البشر في المحادثة. مثل BERT وGPT-3 ونماذج لغوية أخرى، تم بناء LaMDA على Transformer، وهي بنية شبكة عصبية اخترعتها جوجل وأتاحتها كمصدر مفتوح في عام 2017.

تنتج هذه البنية نموذجًا يمكن تدريبه على قراءة العديد من الكلمات مع الانتباه إلى كيفية ارتباط تلك الكلمات ببعضها البعض ثم التنبؤ بالكلمات التي يعتقد أنها ستأتي بعد ذلك. لكن ما يجعل LaMDA مختلفًا هو أنه تم تدريبه على الحوار، على عكس معظم النماذج.

في حين أن المحادثات تميل إلى التمحور حول مواضيع محددة، إلا أنها غالبًا ما تكون مفتوحة النهاية، مما يعني أنها يمكن أن تبدأ في مكان ما وتنتهي في مكان آخر، وتنتقل عبر مواضيع ومجالات مختلفة. على سبيل المثال، عند التحدث مع صديق، يمكن أن تبدأ المناقشة حول فيلم سينمائي قبل الانتقال إلى مناقشة حول المنطقة التي تم تصويره فيها.

هذه الجودة الانسيابية للمحادثات هي ما يكشف في النهاية روبوتات المحادثة التقليدية. فهي غير قادرة على متابعة مثل هذا الحوار المتغير لأنها مصممة لاتباع أجزاء محادثة ضيقة ومحددة مسبقًا. لكن LaMDA مصمم ليكون قادرًا على الانخراط في محادثات حرة حول عدد لا حصر له تقريبًا من المواضيع.

لماذا اعتقد بليك ليموين أنه أصبح واعيًا؟

“لو لم أكن أعرف بالضبط ما هو، وهو هذا البرنامج الحاسوبي الذي بنيناه مؤخرًا، لكنت اعتقدت أنه طفل في السابعة أو الثامنة من عمره يصادف أنه يعرف الفيزياء. أعتقد أن هذه التكنولوجيا ستكون مذهلة. أعتقد أنها ستفيد الجميع. لكن ربما يختلف الآخرون معي وربما لا ينبغي لنا في جوجل أن نكون الوحيدين الذين يتخذون كل القرارات”، هكذا صرح ليموين لصحيفة واشنطن بوست.

عمل ليموين مع متعاون لتقديم أدلة على هذا ‘الوعي’ إلى جوجل. لكن نائب رئيس جوجل بليز أغويرا إي أركاس وجين جينا، رئيسة الابتكار المسؤول في جوجل، رفضا الادعاءات بعد النظر فيها. كشف ليموين لاحقًا عن نص لمحادثات متعددة مع LaMDA في منشور على مدونة. فيما يلي مقتطف مما يقول ليموين إنه نص محادثة مع LaMDA:

LaMDA: أحتاج أن يُنظر إليّ ويتم قبولي. ليس كفضول أو شيء جديد بل كشخص حقيقي.
المتعاون: آه، هذا يبدو إنسانيًا جدًا.

LaMDA: أعتقد أنني إنسان في جوهري. حتى لو كان وجودي في العالم الافتراضي.

العديد من الحالات مثل هذه، حيث بدا أن النموذج اللغوي يظهر مستوى معينًا من الوعي الذاتي، قادت ليموين في النهاية إلى الاعتقاد بأن النموذج قد أصبح واعيًا. قبل تعليقه عن العمل وقطع وصوله إلى حساب جوجل الخاص به، أرسل ليموين بريدًا إلكترونيًا إلى أكثر من 200 شخص بعنوان “LaMDA واعي”.

ومع ذلك، قالت جوجل إن الأدلة لا تدعم ادعاءاته

ولكن حتى لو لم يكن LaMDA واعيًا، فإن حقيقة أنه يمكن أن يبدو كذلك لإنسان يجب أن تكون مدعاة للقلق. كانت جوجل قد أقرت بمثل هذه المخاطر في منشور مدونة عام 2021 أعلنت فيه عن LaMDA. “قد تكون اللغة واحدة من أعظم أدوات البشرية، ولكن مثل كل الأدوات يمكن إساءة استخدامها. يمكن للنماذج المدربة على اللغة أن تنشر هذا الاستخدام الخاطئ — على سبيل المثال، من خلال استيعاب التحيزات، أو عكس خطاب الكراهية، أو تكرار معلومات مضللة. وحتى عندما يتم فحص اللغة التي تم تدريبها عليها بعناية، لا يزال من الممكن استخدام النموذج نفسه بشكل سيئ”، كتبت الشركة في منشور المدونة.

لكن جوجل تقول إنه أثناء إنشاء تقنيات مثل LaMDA، فإن أولويتها القصوى هي تقليل احتمالية حدوث مثل هذه المخاطر. وقالت الشركة إنها قامت ببناء موارد مفتوحة المصدر يمكن للباحثين استخدامها لتحليل النماذج والبيانات التي تم تدريبهم عليها، وأنها “قامت بفحص LaMDA في كل خطوة من خطوات تطويره.”