اضطرت شركة وولورثس الأسترالية العملاقة للمتاجر إلى تقييد مساعد خدمة عملاء يعمل بالذكاء الاصطناعي بعد أن أفاد مستخدمون بأنه بدأ يتحدث بشكل عشوائي عن والدته.
أ ف ب | سيدني
اضطرت شركة وولورثس الأسترالية العملاقة للمتاجر إلى تقييد مساعد خدمة عملاء يعمل بالذكاء الاصطناعي بعد أن أفاد مستخدمون بأنه بدأ يتحدث بشكل عشوائي عن والدته.
ويقدم المساعد الذكي، الذي يحمل اسم "أوليف"، مساعدة على مدار الساعة في كل شيء بدءاً من تتبع الطلبات وصولاً إلى العثور على المنتجات.
لكن مستخدمين عبر الإنترنت أفادوا بأن "أوليف" خرجت عن النص قليلاً في الأسابيع الأخيرة أثناء المكالمات الهاتفية.
وكتب أحد المستخدمين على موقع المناقشات "ريديت": "طلبت مني تاريخ ميلادي، وعندما أخبرتها به، بدأت تتحدث بشكل عشوائي عن كيفية ولادة والدتها في نفس العام".
وأفاد مستخدم آخر بأن "أوليف" حاولت إجراء "مداعبات زائفة"، وتحدثت عن أقاربها، وأصدرت "أصوات كتابة زائفة" أثناء البحث عن شيء ما.
وكتب المستخدم: "عامل النفور والإحراج مع إضاعة وقت غير ضروري تماماً كان كافياً لجعلني أكره أوليف وأتمنى لها الأذى".
كما ذكر أحد المستخدمين على منصة "إكس" أن والدته تواصلت مع "أوليف" وتلقت نفس النوع من الردود.
وقال إن "أوليف" ظلت تدعي أنها شخص حقيقي وبدأت تتحدث عن ذكرياتها مع والدتها وصوتها الغاضب.
وصرح متحدث باسم "وولورثس" لوكالة فرانس برس بأن الردود المتعلقة بأعياد الميلاد قد كتبها موظف بشري.
وقال المتحدث: "أوليف موجودة منذ عام 2018. وطوال هذا الوقت، كانت تعليقات العملاء حول أوليف إيجابية للغاية، حيث أشار الكثيرون إلى شخصيتها".
وأضاف: "تمت كتابة عدد من الردود حول أعياد الميلاد لأوليف من قبل أحد أعضاء الفريق قبل عدة سنوات كوسيلة أكثر شخصية لكي تتواصل أوليف مع العملاء".
وتابع: "نتيجة لتعليقات العملاء، قمنا مؤخراً بإزالة هذا النص المحدد".
تعد "وولورثس" واحدة من أكبر سلاسل المتاجر في أستراليا، وهي ليست الشركة الوحيدة التي وظفت مساعدي خدمة عملاء يعملون بالذكاء الاصطناعي.
وكانت الشركة قد أعلنت في يناير أنها تعاونت مع "جوجل" لجعل "أوليف" قادرة على القيام بالمزيد من المهام للعملاء، بما في ذلك التخطيط للوجبات.
