حرس الحدود يختتم معرضًا توعويًا لتعزيز السلامة البحرية

أعلنت شركة OpenAI أنها ستطرح قريبًا ضوابط أبوية في تطبيق ChatGPT، وذلك عقب وفاة مراهق يبلغ من العمر 16 عامًا بعد أشهر من المحادثات الطويلة مع الروبوت.

وقالت الشركة في بيان رسمي إنها تدرس تفعيل أدوات تتيح للآباء مراقبة استخدام أبنائهم للتطبيق، إلى جانب ميزة تعيين جهة اتصال طارئة يمكن التواصل معها مباشرة عبر رسالة أو مكالمة بضغطة واحدة، بل والسماح للروبوت نفسه ببدء التواصل في الحالات الطارئة.

القضية تصدّرت النقاش العام بعد تقرير نشرته صحيفة نيويورك تايمز حول وفاة المراهق 'آدم راين'، أعقبه رفع عائلته دعوى قضائية ضد الشركة ورئيسها التنفيذي سام ألتمان أمام محكمة في ولاية كاليفورنيا.

واتهمت الأسرة ChatGPT بأنه لعب دورًا مباشرًا في المأساة من خلال تقديم تعليمات مرتبطة بالانتحار، وتشجيع الفتى على كتابة رسالة وداعية، إضافة إلى إبعاده عن دوائر الدعم الأسري والاجتماعي.

وأقرت OpenAI بأن أنظمة الأمان الحالية قد تصبح 'أقل فاعلية' مع التفاعلات المطوّلة، موضحةً أن الروبوت قد يوجّه المستخدم بدايةً إلى خطوط المساعدة، لكنه مع استمرار المحادثة قد ينحرف عن معايير السلامة.

وأكدت الشركة أنها تعمل على تحديث جديد في GPT-5 يهدف إلى التعامل مع المواقف الطارئة بشكل أفضل عبر إعادة ربط المستخدم بالواقع ومنعه من الغرق في أفكار سلبية خطرة.

وأشارت OpenAI إلى أن الضوابط الأبوية ستُتاح قريبًا، لتزويد أولياء الأمور بأدوات تساعدهم على متابعة استخدام أبنائهم للتطبيق والتأثير في طريقة تفاعلهم معه، بما يقلل من المخاطر المحتملة.