أعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، يوم الثلاثاء، أن الشركة ستخفف قريبًا بعض قيود السلامة في ChatGPT، مما يسمح للمستخدمين بجعل ردود روبوت الدردشة أكثر 'إنسانية'، ولـ 'البالغين الموثوقين' بالدخول في محادثات إباحية.

قال ألتمان إن الشركة جعلت ChatGPT مقيدًا في البداية 'للتأكد من توخي الحذر بشأن قضايا الصحة العقلية'، مضيفًا أنه في ديسمبر المقبل، وكجزء من مبدأ 'معاملة المستخدمين البالغين كبالغين'، ستسمح الشركة بالمزيد، بما في ذلك المحتوى المثير 'للبالغين الموثوقين'.

يأتي هذا الإعلان كتحول ملحوظ عن جهود OpenAI لمعالجة العلاقات المثيرة للقلق التي طورها بعض المستخدمين غير المستقرين عقليًا مع ChatGPT.

وقد ظهرت خلال الصيف الماضي قصص مقلقة، من بينها قضية مراهق رفعت عائلته دعوى قضائية ضد الشركة، زاعمة أن الروبوت شجع ابنهم على الانتحار.

وردًا على ذلك، أطلقت OpenAI ميزات سلامة لمعالجة ميل الذكاء الاصطناعي لموافقة المستخدمين على كل ما يقولونه، حتى السلوكيات السلبية. كما أطلقت الشركة نموذج GPT-5 الأقل انصياعًا، ونظامًا لتوقع العمر، وشكلت مجلس خبراء من متخصصي الصحة العقلية.

ويثير السماح بالمحتوى المثير مخاوف أوسع حول كيفية تفاعل المستخدمين المعرضين للخطر، في وقت تواجه فيه OpenAI ضغوطًا لتنمية قاعدة مستخدميها في سباقها مع غوغل وميتا. وقد أثبت السماح بلعب الأدوار الرومانسية أو المثيرة أنه استراتيجية فعالة لزيادة التفاعل لدى شركات أخرى مثل Character.AI.