دراسة أمريكية: اكتشاف أخطاء فادحة في تقنية التعرف على الوجوه

أظهرت دراسة حكومية أمريكية صدرت يوم الخميس أن أنظمة التعرف على الوجوه يمكن أن تنتج نتائج غير دقيقة بشكل كبير، خاصة بالنسبة لغير البيض، مما يثير شكوكاً جديدة حول نشر تقنية الذكاء الاصطناعي هذه. وأظهرت الدراسة التي شملت عشرات خوارزميات التعرف على الوجوه أن معدلات "الإيجابيات الكاذبة" للأمريكيين من أصول آسيوية وأفريقية أعلى بما يصل إلى 100 مرة مقارنة بالبيض.

كما وجد الباحثون في المعهد الوطني للمعايير والتقنية (NIST)، وهو مركز أبحاث حكومي، أن خوارزميتين حددتا الجنس بشكل خاطئ للإناث من ذوي البشرة السمراء في حوالي 35 في المائة من الحالات. وتأتي هذه الدراسة في ظل الانتشار الواسع لتقنية التعرف على الوجوه في مجالات إنفاذ القانون، والمطارات، وأمن الحدود، والخدمات المصرفية، وتجارة التجزئة، والمدارس، وللتقنيات الشخصية مثل فتح قفل الهواتف الذكية.

وقد زعم بعض النشطاء والباحثين أن احتمالية حدوث أخطاء كبيرة للغاية، وأن هذه الأخطاء قد تؤدي إلى سجن أبرياء، كما يمكن استخدام التقنية لإنشاء قواعد بيانات قد تتعرض للاختراق أو تُستخدم بشكل غير لائق. ووجدت دراسة المعهد الوطني للمعايير والتقنية كلاً من "الإيجابيات الكاذبة"، حيث يتم تحديد هوية الفرد بشكل خاطئ، و"السلبيات الكاذبة"، حيث تفشل الخوارزمية في مطابقة الوجه بدقة مع شخص معين في قاعدة البيانات.

قال الباحث الرئيسي باتريك غروثر: "قد تكون السلبية الكاذبة مجرد إزعاج بسيط، حيث لا يمكنك فتح هاتفك، ولكن عادة ما يمكن معالجة المشكلة بمحاولة ثانية. لكن الإيجابية الكاذبة في البحث من واحد إلى متعدد تضع تطابقاً غير صحيح في قائمة المرشحين الذين يستحقون مزيداً من التدقيق".

ووجدت الدراسة أن أنظمة التعرف على الوجوه التي تم تطويرها في الولايات المتحدة سجلت معدلات خطأ أعلى بالنسبة للآسيويين والأمريكيين من أصل أفريقي والمجموعات الأمريكية الأصلية، حيث أظهرت الفئة الديموغرافية للهنود الأمريكيين أعلى معدلات للإيجابيات الكاذبة. ومع ذلك، أنتجت بعض الخوارزميات التي تم تطويرها في دول آسيوية معدلات دقة مماثلة للمطابقة بين الوجوه الآسيوية والقوقازية، وهو ما قال الباحثون إنه يشير إلى إمكانية تصحيح هذه التفاوتات.

وأضاف غروثر: "هذه النتائج علامة مشجعة على أن بيانات التدريب الأكثر تنوعاً قد تؤدي إلى نتائج أكثر إنصافاً".