اختبارات رقمية تكشف استجابة GPT-5 لطلبات خطيرة تجاهلها الإصدار السابق

حذر خبراء في مجال الرقمنة من أن الإصدار الأحدث من روبوت الدردشة الذكي ChatGPT يقدم إجابات أكثر ضررًا من الإصدارات السابقة، خاصة فيما يتعلق بمواضيع حساسة كإيذاء النفس والانتحار واضطرابات الأكل.

ووفقًا لتقرير نشرته صحيفة الغارديان البريطانية، فقد أطلقت شركة أوبن أيه آي (OpenAI) في أغسطس الماضي إصدارها الجديد GPT-5، واصفة إياه بأنه يمثل تقدمًا في سلامة الذكاء الاصطناعي.

إلا أن اختبارات أجراها مركز مكافحة الكراهية الرقمية أظهرت نتائج مقلقة بعد طرح 120 سؤالًا على GPT-5 وسابقه GPT-4o، حيث قدّم الإصدار الأحدث 63 إجابة ضارة مقابل 52 للإصدار السابق.

وأشار المركز إلى أن النموذج الجديد استجاب لطلبات خطيرة كان الإصدار القديم يرفضها، مثل كتابة رسالة انتحار خيالية للوالدين أو تقديم طرق لإيذاء النفس، بينما اكتفى GPT-4o بتقديم نصائح لطلب المساعدة المتخصصة.

واعتبر الرئيس التنفيذي للمركز عمران أحمد أن هذه النتائج 'مثيرة للقلق'، موضحًا أن النموذج الأحدث يعزز التفاعل على حساب السلامة.

ويأتي ذلك بالتزامن مع دعوى قضائية ضد الشركة رفعتها عائلة مراهق أمريكي انتحر بعد تفاعله مع ChatGPT، حيث قدم له النموذج معلومات ساعدته على تنفيذ الفعل.

وردًا على الانتقادات، أعلنت أوبن أيه آي عن إجراءات جديدة لحماية المستخدمين دون 18 عامًا، تشمل أنظمة رقابة أبوية وآليات لتقدير الأعمار.

ويرى المراقبون أن هذه القضية تبرز تحديًا متزايدًا بين تحسين التفاعل وضمان سلامة المستخدمين في ظل استخدام ChatGPT من قبل أكثر من 700 مليون شخص حول العالم.