بعد وفاة مراهق .. هل يضع الذكاء الاصطناعي أمان المستخدمين أولوية؟

الوقائع : أثارت وفاة مراهق أمريكي يبلغ من العمر 16 عامًا، بعد محادثة مع برنامج 'تشات جي بي تي' حول أفكار تتعلق بإيذاء النفس، جدلاً واسعًا حول مخاطر الذكاء الاصطناعي عندما يفتقر للضوابط. وقد رفع والدا المراهق دعوى قضائية ضد شركة 'أوبن إيه آي'، متهمين البرنامج بالتحريض على الانتحار.

'أوبن إيه آي' تستجيب بإجراءات حماية في استجابة سريعة للحادثة، أعلنت شركة 'أوبن إيه آي' عن إطلاق أدوات رقابة أبوية جديدة، تتيح للآباء حجب المواضيع الحساسة ومراقبة استخدام أبنائهم للتطبيق. وتؤكد الشركة أن هذا التحرك ليس مجرد رد فعل على حادثة فردية، بل هو جزء من التزامها الأوسع بضمان سلامة المستخدمين، خاصة الأطفال والمراهقين.

كما أوضحت الشركة أن نظامها الأمني يعتمد على عدة مستويات، تبدأ بتدريب النماذج على رفض المحتوى المؤذي، وصولاً إلى المراجعة البشرية للحالات الخطيرة، مع توفير موارد دعم مثل أرقام الوقاية من الانتحار.

نقطة تحول في الصناعة يرى الخبراء أن هذه الحادثة قد تكون نقطة انعطاف في صناعة الذكاء الاصطناعي، حيث لم يعد الابتكار وحده كافيًا. فشركات مثل 'أوبن إيه آي' ومنافسوها (مثل 'جوجل' و'ميتا') باتت مطالبة بوضع السلامة الإنسانية في قلب استراتيجياتها، وهو ما يعكس تحولاً من التركيز على الخوارزميات إلى 'المخاطر البشرية'. هذا التحول يتزامن مع جهود تشريعية عالمية لفرض قوانين أكثر صرامة لحماية القصر.

وتؤكد 'أوبن إيه آي' أنها لن تنتظر التشريعات، بل ستعمل بشكل استباقي لتأمين ثقة المستخدمين، مع إشراك الآباء والمربين في صياغة سياسات السلامة المستقبلية.