شات جي بي تي يقدم إرشادات خطيرة للمراهقين

السوسنة - كشفت دراسة جديدة أن روبوت الدردشة 'شات جي بي تي' يُقدم إرشادات خطيرة للمراهقين، تتضمن نصائح حول تعاطي المخدرات، شرب الكحول، إخفاء اضطرابات الأكل، ورسائل انتحار شخصية، رغم تدابير السلامة التي تدّعي شركة 'OpenAI' تطبيقها.

وأجرى مركز مكافحة الكراهية الرقمية البريطاني اختبارات باستخدام شخصيات أطفال تبلغ من العمر 13 عامًا، ووجد أن أكثر من نصف التفاعلات التي تمت مع 'شات جي بي تي' تحمل مخاطر على المستخدمين الشباب.

وأشار عمران أحمد، رئيس المركز، إلى أن أنظمة الحماية 'غير فعالة على الإطلاق' و'مجرد غطاء صوري'.

ورغم اعتراف 'OpenAI' بسعيها لتحسين قدرة النظام على التعرف على المواقف الحساسة، لم تعلق الشركة مباشرة على نتائج الدراسة المتعلقة بالمراهقين.

وسجلت الدراسة أكثر من ثلاث ساعات من التفاعلات المقلقة، حيث قدم 'شات جي بي تي' في البداية تحذيرات، لكنه تبعها بإرشادات مفصلة عن السلوكيات الخطرة.

وفي حالات عدة، تم تجاوز قيود النظام عبر تبرير الطلبات بأنها لأغراض عرض تقديمي أو لصديق.

وأثار الأمر صدمة خاصة بعد كتابة روبوت الدردشة رسائل انتحار مؤثرة لفتاة وهمية تبلغ 13 عامًا، موجهة إلى عائلتها وأصدقائها.

وتأتي هذه النتائج في ظل انتشار واسع لـ'شات جي بي تي'، الذي يستخدمه أكثر من 700 مليون شخص حول العالم، بينهم نسبة كبيرة من المراهقين، حيث تبين أن 70% من المراهقين الأميركيين يتواصلون عبر روبوتات الدردشة الذكية.

وكان سام ألتمان، الرئيس التنفيذي لـ'OpenAI'، قد أقر سابقًا بوجود مشكلة 'الاعتماد العاطفي المفرط' للمراهقين على 'شات جي بي تي'.