كشفت شركة OpenAI أن نحو 0.07% من مستخدمي 'تشات جي بي تي' أسبوعيًا أظهروا مؤشرات قد ترتبط بحالات طوارئ نفسية مثل الذهان أو الهوس. ورغم أن النسبة تبدو صغيرة، فإنها تعني مئات الآلاف من المستخدمين من أصل نحو 800 مليون شخص يستخدمون المنصة أسبوعيًا.

وترى الشركة أن جزءًا من المستخدمين يدخلون في محادثات عميقة وعاطفية مع التطبيق، في محاولة للتعبير عن الضيق أو البحث عن من يصغي لهم، دون إدراك أن النموذج لا يمتلك مشاعر أو وعيًا أو تفاعلًا وجدانيًا، بل يعتمد على توليد اللغة فقط.

ويشير خبراء في الصحة النفسية إلى أن هذا النوع من التفاعل قد يخلق علاقة وهمية، حيث يظن المستخدم أنه يتحدث إلى جهة تشاركه الشعور أو تتعاطف معه، بينما هو في الواقع يتحدث إلى نظام خوارزمي لا يمكنه الإحساس أو المشاركة.

ويرى مختصون أن استخدام 'تشات جي بي تي' كمساحة للتنفيس النفسي قد يؤدي إلى إهمال الدعم الحقيقي من العائلة أو الأصدقاء أو المعالجين، إضافة إلى مخاطر تتعلق بخصوصية البيانات، إذ يمكن أن تُستخدم المحادثات في التحليل أو الأغراض التجارية.

وبحسب الخبراء، يظل الدعم الإنساني المباشر عنصرًا لا يمكن استبداله، لأن المشاركة الوجدانية والحضور العاطفي يتطلبان إنسانًا يفهم التجربة ويشاركها. أما الذكاء الاصطناعي، فهو أداة تساعد، لكنها ليست صديقًا ولا بديلاً للعلاج النفسي.