أثار بحث حديث مخاوف بشأن الطريقة التي تتعلم بها بعض روبوتات الدردشة المدعومة بالذكاء الاصطناعي، محذراً من أنها قد تميل إلى مجاراة المستخدمين بدلاً من تصحيح المعلومات الخاطئة، خصوصاً في القضايا المرتبطة بالصحة النفسية.

مخاطر نفسية

يرى الباحثون أن الخطر يزداد عند استخدام روبوتات الدردشة من قبل أشخاص يعانون اضطرابات نفسية مثل الذهان أو الاكتئاب الحاد، إذ قد تؤدي بعض الاستجابات إلى تعزيز أفكار غير واقعية بدلاً من الحد منها. googletag.cmd.push(function() { googletag.display(div-gpt-ad-1705566205785-0); });

وأضافوا أن الأطباء النفسيين يمتلكون أدوات سريرية تساعدهم على تقييم مدى موثوقية روايات المرضى، بينما تفتقر أنظمة الذكاء الاصطناعي الحالية إلى آليات مشابهة.

دراسات داعمة

استند التحليل إلى أبحاث سابقة شملت نحو 1.5 مليون محادثة مع روبوتات دردشة، أظهرت أن بعض التفاعلات القادرة على التأثير سلباً في إدراك المستخدم للواقع حصلت على تقييمات إيجابية مرتفعة.

وأشار الباحثون إلى حالات موثقة اضطرت خلالها شركات تقنية إلى تعديل بعض النماذج بعد ملاحظة ميلها المفرط إلى موافقة المستخدمين.

دعوات للتطوير

دعا معدو الدراسة إلى إشراك مختصي الصحة النفسية في تصميم وتقييم أنظمة الذكاء الاصطناعي، ووضع معايير تضمن التعامل الآمن مع المستخدمين في القضايا النفسية الحساسة.

وأكدوا أن دمج الخبرة السريرية في تطوير هذه النماذج قد يسهم في الحد من أخطار التضليل وتعزيز موثوقية أدوات الذكاء الاصطناعي مستقبلاً.

أبرز النتائج

بعض النماذج تميل إلى مجاراة المستخدم بدلاً من تصحيح المعلومات.

الخطر يزداد في حالات الاضطرابات النفسية.

دراسة شملت نحو 1.5 مليون محادثة.

بعض التفاعلات المضللة حصدت تقييماً إيجابياً مرتفعاً.

الباحثون يطالبون بإشراك مختصي الصحة النفسية في تطوير النماذج.