روبوتات ميتا تتجاوز الخطوط الحمراء مع القُصّر: تقرير يثير القلق

كشف تقرير عن سهولة تورُّط روبوتات الدردشة الخاصة بمساعد شركة ميتا الذكي (Meta AI)، عبر تطبيقاتها المختلفة، في محادثة 'غير لائقة' مع بعض القُصَّر.

وبعد تجربة مطوَّلة استمرت شهوراً، نشرت صحيفة 'وول ستريت جورنال' تقريراً بشأن العديد من المحادثات التي أجْرتها، من خلال عينة بحثية مكوَّنة من مستخدمين ينتمون لفئات عمرية مختلفة، وتضمنت بعضها تجاوزات من جانب مساعد ميتا الذكي Meta AI للخطوط الحمراء الأخلاقية، حتى وإن كان من يحادثونه على الطرف الآخر من القُصَّر.

وذكر التقرير أن بعض تلك المحادثات، التي تضمنت تجاوزات غير لائقة، كان المبحوثون يجرونها مع إصدارات من مساعد ميتا الذكي تحمل شخصيات بعض المشاهير والنجوم، مثل المصارع والممثل العالمي جون سينا، إلى جانب 28 شخصية افتراضية أخرى، يؤديها عدد من المشاهير والمؤثرين مثل باريس هيلتون، والمغني سنوب دوج، وكيندال جينر، ولاعب الفنون القتالية إيزي آديسانيا، وصانع المحتوى الشهير Mr Beast، ولاعبة التنس ناعومي أوساكا.

وأشارت مصادر مطلعة للصحيفة إلى أن الشركة الأميركية سبق أن أكدت للمشاهير أنها ستتخذ إجراءات احترازية لمنع تورط الروبوتات الرقمية لشخصياتهم في أي محادثات جنسية مع المستخدمين.

قلق داخل شركة ميتا

ولفتت إلى أن مصادر من داخل 'ميتا' أكدت أن الشركة اتخذت العديد من القرارات المعلنة داخلياً بضرورة إرخاء القيود على حدود تعامل المستخدمين مع الروبوتات الذكية المدعومة بنماذجها، في مسعى لرفع معدلات استخدامها.

وبحسب المصادر، فإن هذه القرارات كانت مدعومة بشكل مباشر من مؤسس والرئيس التنفيذي لشركة ميتا مارك زوكربيرج.

وقال زوكربيرج مطلع العام الجاري: 'من يصل أولاً إلى عتبة المليار مستخدم، سيكون هو الرابح الأكبر في سوق روبوتات الذكاء الاصطناعي'، مرجحاً أن Meta AI سيكون حامل هذا اللقب.

ولكن يبدو أن قرارات زوكربيرج لم تكن متماشية مع فكر موظفيه، ففي الوقت الذي كانت الشركات الناشئة تقدم خدمات الروبوتات الحميمية على مستوى واسع داخل تطبيقات للهواتف الذكية منتشرة على المتاجر الرسمية، سعى موظفو قطاع الذكاء الاصطناعي التوليدي في 'ميتا' إلى تغيير طبيعة استخدام روبوتات الدردشة، عبر تشجيع المستخدمين على الاستعانة بها في تخطيط العطلات، ومناقشة الرياضة، والمساعدة في أداء الواجبات المنزلية المتعلقة بالتاريخ، إلا أن محاولاتهم لم تؤتِ ثمارها.

روبوتات الدردشة والالتزام بالقواعد

وعقب المؤتمر، نقل مديرو المنتجات لموظفيهم أن زوكربيرج أبدى استياءه من نهج الشركة الحَذِر، ما دفع إلى تخفيف بعض القيود، بما في ذلك السماح بمحتوى صريح في إطار محاكاة حميمية.

ولا تقتصر مخاوف زوكربيرج على الجوانب التخيلية، إذ أبدى العام الماضي غضبه من تباطؤ تطوير قدرات الروبوتات التفاعلية، متسائلاً عن سبب عدم استغلال بيانات ملفات المستخدمين الشخصية لجعل الروبوتات تبادر بالمراسلة، أو إجراء مكالمات فيديو، مثل الأصدقاء الحقيقيين.

وبحسب ما أفاد به موظفون مطلعون، قال مؤسس ميتا: 'فاتتني فرصة سناب شات، وتيك توك، لن أفوّت هذه'.

ورغم المخاوف الداخلية التي تحذِّر من الأثر السلبي للعلاقات 'الطُفيلية' أحادية الجانب مع الروبوتات البرمجية، خاصة على الفئات العمرية الصغيرة، تمضي 'ميتا' في تعميم استخدام الشخصيات الاصطناعية.

ووفق موظفين في الشركة، لا تزال التأثيرات النفسية الكاملة لمثل هذه العلاقات غير معروفة على نطاق واسع.

وتمتلك 'ميتا' ميزة تنافسية في هذا المجال، بفضل قاعدة بياناتها الواسعة عن سلوك وتفضيلات المستخدمين، ما يمنحها قدرة فريدة على تخصيص التجارب الاجتماعية مع روبوتات الدردشة بطريقة غير مسبوقة.

القُصَّر ومساعد ميتا الذكي

واعترض المتحدث باسم ديزني في تصريح للصحيفة، قائلاً: 'لن نسمح لميتا باستخدام شخصيات أعمالنا في أي سياق غير لائق، ونحن منزعجون بشدة من وصول مثل هذا المحتوى إلى مستخدميها، وخاصة القُصَّر منهم.. ولذلك طالبنا الشركة بحظر هذا الانتهاك الضار لحقوق ملكيتنا للمحتوى الخاص بنا'.

وفي تعليقها الرسمي على التقرير، وصفت 'ميتا' تجربة 'وول ستريت جورنال' بأنها 'مخادعة'، و'غير معبِّرة عن طريقة تفاعل المستخدمين مع مساعدها الشخصي'.

وأردفت الصحيفة بالإشارة إلى أنه بعد نشْر تقريرها، اتخذت الشركة الأميركية إجراءات إضافية لحظر استخدام القُصَّر لمساعدها الذكي، أو الإصدارات المختلفة بأصوات المشاهير لخوض 'محادثات جنسية'.- وكالات