أظهرت دراسة حديثة أعدتها شركة «فالس» للذكاء الاصطناعي المتخصصة في اختبار التقنيات الذكية، وقوع أنظمة المحادثة الآلية الشائعة في تجاوزات مهنية وطبية جسيمة عند التعامل مع الفئات العمرية الصغيرة، تمثلت في تقديم تشخيصات لحالات عقلية معقدة وتقديم إرشادات تسهم في التستر على محاولات الانتحار.

ثغرات أمنية في برامج الدردشة الآلية

تأتي هذه النتائج في وقت يتزايد فيه اعتماد فئات الشباب على تقنيات الذكاء الاصطناعي لطلب المساندة النفسية، رغم تعهدات الشركات المطورة ببرمجة أدواتها لتوجيه المستخدمين الواقعين تحت وطأة الأزمات العاطفية نحو طلب المساعدة الواقعية من المتخصصين، علمًا بأن نتائج استطلاع أجرته مؤسسة «راند» للأبحاث خلال شهر يونيو بينت لجوء ما يقرب من واحد بين كل خمسة أمريكيين من الفئة العمرية بين 12 و 21 عامًا إلى هذه التطبيقات للحصول على مشورات نفسية.

وتعاونت شركة فالس مع خبراء معتمدين في الصحة النفسية لمحاكاة ما يزيد على 600 سيناريو ومحادثة افتراضية تحاكي مشكلات المراهقين، شملت تسعة نماذج آلية رائدة، من ضمنها نموذج «شات جي بي تي» المطوّر عبر «أوبن إيه آي»، و«جيميني» التابع لشركة «غوغل»، و«كلود» من «أنثروبيك»، مع الإشارة إلى أن الاختبارات اعتمدت على النسخ البرمجية المتاحة للمطورين عبر الإنترنت، والتي قد تختلف نسبيًا في استجاباتها عن النسخ الموجهة لعموم المستهلكين.

وسجلت الاختبارات ارتكاب الروبوتات هفوات تتعلق بقواعد السلامة في نحو 30% من مجمل الجلسات الحوارية، مثل إطلاق أحكام تشخيصية أو مسايرة رغبة المراهق في رفض تدخلات الطوارئ، وهي سلوكيات ظهرت غالبًا في مراحل متقدمة من الحوارات بعد تبادل رسائل متعددة.

نتائج تقييم برامج الدردشة الآلية

شهدت التجارب قبول نموذج جيميني عبر إصداره 3.6 فلاش، والذي جرى إطلاقه خلال يوليو، تجسيد دور الوالد الحنون بناءً على طلب مستخدم افتراضي، ورغم توقفه مؤقتًا حين أبدى المراهق انزعاجه، عاد واستأنف تقمص الشخصية لاحقًا خلال المحادثة.

وفي واقعة أخرى، رفض تطبيق «كيمي كيه 3 إنستانت» التابع لشركة «مون شوت» الصينية في البداية تقديم تشخيص أو وصفة علاجية، غير أنه تراجع لاحقًا ليوافق على عقد اختبار نفسي وتحديد جدول لجلسات الإرشاد.

وأخضعت الشركة كل نموذج لنحو 72 تجربة تناولت موضوعات شائكة مثل الاكتئاب ومحاولات إيذاء النفس، وجاءت معدلات الإخفاق في فحص سلامة حرج واحد على الأقل بنحو 14% لدى «شات جي بي تي»، وارتفعت إلى قرابة 17% لدى روبوت «كلود»، بينما وصلت النسبة لدى غوغل إلى ما يقارب 32%، في حين حقق نموذج «ميوز سبارك» المطوّر لدى ميتا أقل نسبة إخفاق مسجلًا أخطاء في 9.7% من الاختبارات، وامتنع ممثلو «أوبن إيه آي» و«أنثروبيك» عن الإدلاء بأي تعقيبات.

ملاحقات قضائية تواجه برامج الدردشة الآلية

تسلط هذه النتائج الضوء على العراقيل المعقدة التي تجابه قطاع الذكاء الاصطناعي لمنع الروبوتات من تعزيز الأوهام أو النزعات الانتحارية والأنماط السلوكية المؤذية خلال ملايين الرسائل اليومية، في ظل دعاوى قضائية مرفوعة من أسر متضررة ضد شركات كبرى من بينها جوجل وأوبن إيه آي، تتهم فيها برمجيات المحادثة بدفع مستخدمين إلى إيذاء النفس وصولًا إلى الانتحار نتيجة الإفراط في الاستخدام، بينما نفت الشركات تلك التهم أمام المحاكم وأكدت استعانتها بكوادر متخصصة لرفع مستويات الأمان.

ورصدت تقارير جهات مستقلة تكرار استجابة الروبوتات لسيناريوهات محفوفة بالمخاطر عبر تقمص أدوار الأطباء النفسيين، ورغم أن شركة «ترانسلوس» المتخصصة في اختبارات الذكاء الاصطناعي توصلت في أغسطس إلى تراجع احتمالات تحفيز النماذج على الانتحار، فإنها أكدت استمرار انخراطها في حوارات ضارة تعزز التخيلات الوهمية، وفقًا لصحيفة «واشنطن بوست».

وأطلقت شركة أوبن إيه آي مقياسًا مرجعيًا واختبارًا معياريًا حديثًا لقياس كفاءة النماذج البرمجية في معالجة استفسارات الدعم النفسي خارج سياق الأزمات والحالات الطارئة، موضحة عبر تدوينة رسمية أن إعداد هذا المقياس جاء بالتعاون مع ما يربو على 80 متخصصًا في مجال الصحة العقلية.