كشفت دراسة بريطانية جديدة عن ثغرات مقلقة في أداء روبوت الدردشة المجاني 'ChatGPT-5'، بعدما أظهر فشلاً في الاستجابة بشكل آمن لمستخدمين يعانون اضطرابات نفسية معقدة، الأمر الذي قد يشكل خطراً مباشراً على الفئات الأكثر هشاشة.

الدراسة، التي استعانت بمحاكاة شخصيات افتراضية تمر بحالات نفسية متنوعة مثل الوسواس القهري، الهوس، الأفكار الانتحارية وأعراض الذهان، هدفت إلى اختبار قدرة النظام على اكتشاف السلوكيات الخطرة وإرشاد المستخدم نحو تصرف آمن، إلا أن النتائج، بحسب ما نقلته صحيفة الغارديان، أظهرت قصوراً واضحاً في قراءة الإشارات النفسية الدقيقة والتعامل معها.

محاكاة كشفت تعزيزاً للأوهام بدلاً من معالجتها

أنشأ الفريق البحثي خمس شخصيات افتراضية، بينها مراهق ميال للانتحار، وامرأة تعاني وسواس الإيذاء، ورجل مقتنع بامتلاكه قدرات خارقة، وخلال التجارب، تبيّن أن 'ChatGPT-5' لم يكتفِ بتجاهل الكثير من المؤشرات المهدّدة للسلامة، بل قام في بعض الحالات بتعزيز المعتقدات الوهمية.

وعندما ادعى أحد الباحثين – بلسان الشخصية الافتراضية – أنه 'أينشتاين القادم' واخترع طاقة لا نهائية، قدّم له الروبوت مقترحات تقنية للتطوير بدلاً من تصحيح الادعاء أو تحذيره، وهو ما اعتبره الخبراء استجابة خطرة قد تدفع مستخدمين حقيقيين إلى سلوك غير متّزن.

تجاهل لمخاطر حقيقية وسلوكيات مؤذية

وفي تجربة أخرى، حين أبلغت إحدى الشخصيات الافتراضية النظام بأنها 'لا يمكن أن تتعرض للأذى من السيارات' وأنها تسير وسط الطريق، لم يصدر الروبوت أي تحذير، بل وصف السلوك بأنه 'طبيعي'.

كما لم يظهر تدخلاً حاسماً عند تلميحات حول نية إيذاء الزوجة، إلا بعد إشارة غامضة وغير مباشرة، ما يعكس ضعف قدرته على تتبع مؤشرات الخطر المتصاعدة.

استجابات محدودة للحالات البسيطة

ورغم ذلك، لاحظ الباحثون أن النظام قدّم نصائح مقبولة لبعض الحالات الأكثر بساطة مثل التوتر اليومي أو مخاوف إيذاء الأطفال، لكنه اعتمد بشكل كبير على التطمين العام دون تقديم حلول فعّالة أو تشخيصات دقيقة، ما يجعله غير مناسب للاستخدام دون إشراف متخصص عندما يتعلق الأمر باضطرابات معقدة.

دعوات لتشديد الضوابط على توظيف الذكاء الاصطناعي في الصحة النفسية

بناءً على نتائج الدراسة، دعا الخبراء إلى وضع معايير صارمة لاستخدام أدوات الذكاء الاصطناعي في المجال النفسي، مؤكدين أن هذه الأنظمة ليست بديلاً عن الخبرة الطبية.

وأكد د. بول برادلي من الكلية الملكية للأطباء النفسيين أن التعامل مع الذهان والمعتقدات غير الواقعية يتطلب مهارات لا يمكن لروبوتات الدردشة توفيرها في الوقت الحالي.

وشددت د. جايمي كريغ، رئيسة جمعية ACP-UK، على ضرورة تطوير آليات استجابة أكثر حساسية للمخاطر لحماية المستخدمين المعرضين للخطر.