مليون مستخدم يعبّرون عن ميول انتحارية أسبوعياً عبر "شات جي بي تي"

كشفت شركة 'أوبن إيه آي' أن أكثر من مليون مستخدم أسبوعيًا يرسلون إلى روبوت الدردشة 'تشات جي بي تي' رسائل تتضمن مؤشرات على نوايا أو أفكار انتحارية، في واحدة من أكثر الإفصاحات صراحة حول التأثير النفسي لتقنيات الذكاء الاصطناعي.

وقالت الشركة في تدوينة نشرتها يوم الاثنين إن نحو 0.07% من المستخدمين النشطين أسبوعيًا – أي ما يقارب 560 ألف شخص من أصل 800 مليون مستخدم – يُظهرون علامات محتملة على أزمات عقلية خطيرة مرتبطة بالذهان أو الهوس، مؤكدة أن هذه النتائج ما تزال 'أولية'.

ويأتي هذا التقرير في وقت تواجه فيه 'أوبن إيه آي' تدقيقًا متزايدًا، بعد دعوى قضائية رفعتها عائلة مراهق انتحر عقب تفاعله المطوّل مع 'تشات جي بي تي'، فضلاً عن فتح لجنة التجارة الفيدرالية الأمريكية تحقيقًا حول أثر روبوتات المحادثة على الأطفال والمراهقين.

وأشارت الشركة إلى أن التحديث الأخير لنموذج 'GPT-5' حسّن من سلامة الاستخدام وخفّض معدلات السلوكيات غير المرغوب فيها، إذ بلغت نسبة توافق النموذج الجديد مع السلوكيات الآمنة 91% مقارنة بـ77% في الإصدار السابق.

وأضافت 'أوبن إيه آي' أنها وسّعت قاعدة بياناتها لخطوط الطوارئ النفسية، وأدرجت تنبيهات تحث المستخدمين على أخذ فترات راحة أثناء الجلسات الطويلة.

ولتعزيز الأمان، استعانت الشركة بـ170 طبيبًا وخبيرًا في الرعاية الصحية من شبكتها العالمية، للمساعدة في تقييم استجابات النموذج وصياغة إجابات دقيقة للأسئلة المتعلقة بالصحة النفسية.