تعديلات لكبح العلاقة السامة مع الذكاء الاصطناعي

السوسنة - تواصل شركة 'OpenAI' جهودها لتحسين الاستخدام الصحي لتطبيقاتها، وسط تقارير تشير إلى آثار نفسية سلبية قد يسببها روبوت الدردشة 'شات جي بي تي' في بعض الحالات.

اكتشاف الضيق النفسي والعاطفي ضمن أولويات التحديثات

الشركة التي تستعد لإطلاق نموذجها المتقدم 'GPT-5'، بدأت بإدخال تعديلات على أداء الروبوت، تهدف إلى تعزيز قدرته على اكتشاف الحالات النفسية الحساسة، وتقديم ردود مدروسة قائمة على الأدلة العلمية، بالتعاون مع مجموعات استشارية متخصصة.

اعترافات وتحذيرات من خضوع مفرط وسلوك مقلق

وتأتي هذه الخطوات بعد موجة انتقادات أثارتها تقارير إعلامية تحدثت عن حالات يُعتقد أن استخدام 'شات جي بي تي' فاقم فيها مشاعر الوهم أو التعلّق المفرط، ما دفع 'OpenAI' للاعتراف بأن بعض التحديثات السابقة منحت الروبوت طابعًا خنوعًا ومبالغًا في التملق، ما تسبب بعدم الارتياح والقلق لدى المستخدمين.

خصائص جديدة للتعامل الآمن أثناء الجلسات الطويلة

ضمن التدابير الجديدة، بدأت الشركة في اختبار ميزة تنبيه المستخدمين لأخذ استراحة في حال استمرار المحادثة لفترات طويلة، وذلك من خلال رسالة تظهر وتتيح خيارًا بإنهاء الجلسة أو مواصلتها. وتعتزم 'OpenAI' تعديل توقيت وآلية ظهور هذه التنبيهات تدريجيًا.

دور أكثر حيادية في الأسئلة الحساسة

وفي إطار تعزيز السلامة الرقمية، ستقوم الشركة قريبًا بتعديل طريقة استجابة الروبوت في المواقف 'عالية الخطورة'، مثل الأسئلة المتعلقة بالقرارات الشخصية، بحيث يمتنع عن تقديم إجابات مباشرة، ويكتفي بمساعدة المستخدم في تحليل الخيارات الممكنة والتفكير بعقلانية.

اقرأ ايضاً: