عصر التزييف العميق يعني أن على مستخدمي الإنترنت أن يكونوا أكثر يقظة من أي وقت مضى

أ ف ب | باريس

قال خبراء الأمن السيبراني إن التطور المتسارع لأدوات الذكاء الاصطناعي القادرة على إنشاء نصوص وصور وحتى مقاطع فيديو حية مقنعة يتيح عمليات احتيال أكثر ذكاءً واستهدافاً، وحثوا مستخدمي الإنترنت على رفع مستوى حذرهم.

في الأسابيع الأخيرة، أظهرت قضية "احتيال عاطفي" بارزة في فرنسا، حيث دفعت امرأة 830 ألف يورو (840 ألف دولار)، أو حملات التبرع الوهمية لضحايا حرائق لوس أنجلوس، أن "الجميع بلا استثناء، سواء كانوا أفراداً أو شركات، هدف للهجمات السيبرانية"، كما يقول أرنو لومير من شركة الأمن السيبراني F5. ومن أكثر أشكال الهجمات السيبرانية شيوعاً هو التصيد الاحتيالي، وهو إرسال رسائل بريد إلكتروني أو نصوص أو رسائل أخرى تحت ذرائع كاذبة.

يحاول معظم المحتالين دفع المستخدمين لاتخاذ إجراء مثل النقر على رابط، أو تثبيت برنامج ضار، أو الكشف عن معلومات حساسة.

وقد شكل التصيد الاحتيالي وما يرتبط به من "هندسة اجتماعية" أكثر من 20 بالمائة من أصل ما يقرب من 10 آلاف خرق للبيانات في جميع أنحاء العالم العام الماضي، وفقاً لما تم الإبلاغ عنه لمشغل الاتصالات الأمريكي فيرايزون في إصدار عام 2024 من تقريره الأساسي للتحقيق في خروقات البيانات.

يقول لومير إن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والتي تعتمد على نماذج لغوية كبيرة (LLMs) توفر الوقت للمهاجمين وتسمح بإنشاء رسائل مزيفة أكثر تفصيلاً.

كما أنها تعني أنه "إذا كان شخص ما يكتب رسالة بريد إلكتروني للتصيد الاحتيالي... فيمكنه جعل الأدلة تختفي تماماً" والتي قد تكشف أن الكاتب ليس متحدثاً أصلياً باللغة المستهدفة.

لكن مولدات النصوص ليست سوى قمة جبل الجليد في الذكاء الاصطناعي.

على سبيل المثال، يمكن للذكاء الاصطناعي "الاستفادة من جميع البيانات التي تم اختراقها على مدى السنوات القليلة الماضية لأتمتة إنشاء عمليات احتيال مخصصة للغاية"، حسبما قال ستيف جروبمان، المدير التقني في شركة برمجيات الأمن McAfee، للصحفيين يوم الخميس.

هذا "شيء لم يكن ممكناً قبل بضع سنوات إلا بوجود جيش من البشر".

"كلمة سر"

بدلاً من السعي وراء ربح سريع، يهدف المهاجمون غالباً إلى كسب ثقة أفراد معينين في الشركات المستهدفة على مدى أشهر أو سنوات.

يقول مارتن كريمر من شركة التدريب على الأمن السيبراني KnowBe4: إذا تم خداع موظف بنجاح، فقد "ينتظر المهاجمون حتى يصبح هذا الشخص مؤثراً جداً أو تتاح فرصة جيدة لابتزاز المال" قبل استغلال هذه العلاقة.

وقد ظهرت المخاطر في فبراير 2024، عندما احتال محتالون على شركة متعددة الجنسيات في هونغ كونغ بمبلغ 26 مليون دولار.

وقالت الشرطة إن موظفاً مالياً اعتقد أنه في مؤتمر فيديو مع الرئيس التنفيذي للشركة وموظفين آخرين، تبين في الواقع أنهم جميعاً صور مزيفة تم إنشاؤها بواسطة الذكاء الاصطناعي.

يقول جروبمان: "لقد وصل الجيل الأحدث من فيديو التزييف العميق إلى نقطة لا يستطيع فيها أي مستهلك تقريباً التمييز بين صورة تم إنشاؤها بواسطة الذكاء الاصطناعي وصورة حقيقية".

وأضاف أن مستخدمي الإنترنت بحاجة إلى البدء في تطبيق نفس التشكيك على الفيديو كما يفعل الكثيرون الآن مع الصور الثابتة - حيث أصبح "فوتوشوب" فعلاً شائعاً. وفي مواجهة مقطع فيديو إخباري مزعوم على الإنترنت، قد يكون الأمر بسيطاً مثل التحقق منه عبر مصدر موثوق.

وفي الاتصالات الشخصية، مازح لومير من شركة F5 قائلاً: "أكاد أقول إن الأمر يشبه كلمات السر الآمنة".

"أنت تقول لنفسك، ها هو الرئيس التنفيذي يطلب مني إجراء تحويل مصرفي بقيمة 25 مليون دولار، سأطرح شيئاً شخصياً للتأكد من أنه هو حقاً".

يقول لومير إن الحيل الأخرى تشمل مطالبة المتصل عبر الفيديو بتحريك الكاميرا في المكان - وهو أمر يجد الذكاء الاصطناعي صعوبة في إعادة إنتاجه في الوقت الحالي.

من الخيول إلى السيارات

صناعة الاحتيال عبر الإنترنت مربحة للغاية لدرجة أنه "تماماً مثل الشركات الأخرى... هناك سلاسل توريد ونظام بيئي من الأدوات لدعمها"، كما يقول جروبمان.

تشمل البرامج الضارة المتاحة للتأجير برامج الفدية مثل LockBit، والتي يمكنها تشفير البيانات على أجهزة الكمبيوتر الخاصة بالأهداف والتهديد بحذفها أو تسريبها ما لم يتم الدفع. وقد تم القبض على أحد مطوريها المشتبه بهم في إسرائيل في ديسمبر بانتظار تسليمه إلى أمريكا.

يقول جروبمان إن أدوات الذكاء الاصطناعي تشمل أداة سمحت لباحث في McAfee باستبدال وجهه بوجه نجم هوليوود توم كروز في مقطع فيديو مقابل مبلغ زهيد يصل إلى 5 دولارات. ومع ذلك، يقول كريمر من KnowBe4: "لست قلقاً جداً من جانب الدفاع من أننا سنغرق بسبب الذكاء الاصطناعي".

وأضاف أنها "أداة يمكننا استخدامها للهجوم وكذلك للدفاع". ومع ذلك، يظل خط الدفاع الأخير بشرياً في الوقت الحالي.