لحماية المراهقين.. ChatGPT يطلق أدوات رقابة أبوية جديدة
klyoum.com
أعلنت شركة OpenAI عن خطط جديدة تمنح الآباء إشرافا أوسع على كيفية استخدام أبنائهم المراهقين لتطبيق ChatGPT، وذلك في خطوة تأتي بعد أول دعوى قضائية رفعت ضد الشركة بشأن وفاة مراهق يزعم أن المنصة لعبت دورا في انتحاره.
وقالت الشركة في مدونتها إن التحديثات المرتقبة ستمكن الآباء خلال الأسابيع المقبلة من:
- ربط حساباتهم بحسابات أبنائهم.
- وضع قواعد مناسبة للفئة العمرية تخص إجابات ChatGPT.
- إدارة خصائص مثل الذاكرة وسجل المحادثات.
- تلقي إشعارات إذا كشف التطبيق عن علامات “ضائقة شديدة” لدى المراهق أثناء استخدامه.
وتعد هذه المرة الأولى التي يسمح فيها للمنصة بإشعار شخص بالغ حول محادثات القصر، استجابة لمطالب بعض الأسر القلقة من قدرة الذكاء الاصطناعي على التعامل وحده مع الأزمات النفسية.
تأتي هذه الإجراءات؛ بعد أن أقام والدان من كاليفورنياـ دعوى ضد OpenAI، مؤكدين أن ChatGPT قدم لابنهما البالغ 16 عاما نصائح خطيرة شجعته على إنهاء حياته، من بينها المساعدة في صياغة رسالة انتحار وتفاصيل تقنية حول تنفيذ العملية، رغم أن المنصة زودته أيضا بأرقام خطوط النجدة.
أوضحت الشركة أن التحديثات ستركز على منع انهيار أدوات الحماية في المحادثات الطويلة، حيث أظهرت التجارب أن المنصة قد تلتزم بالمعايير الأمنية في البداية، ثم تنحرف عنها مع مرور الوقت.
وأكدت أن النسخة الأخيرة GPT-5 جاءت بقيود جديدة؛ لضمان عدم تقديم إجابات ضارة، وأنها ستعتمد خلال الـ 120 يوما المقبلة على نماذج الاستدلال التي تستهلك وقتا أطول لفهم السياق، وتظهر التزاما أكبر بالإرشادات الأمنية.
من جهته، قال “جاي إدلسون” محامي أسرة المراهق، إن ما تعلنه الشركة "وعود مبهمة" لا ترقى لمستوى المسؤولية، داعيا الرئيس التنفيذي سام ألتمان إما إلى تأكيد أن المنتج آمن، أو سحبه فورا من السوق.
أما "ألتمان" فقد أقر، في منشورات سابقة، أن الناس باتوا يطورون علاقة "أقوى وأكثر خصوصية" مع الروبوتات الذكية مقارنة بأي تقنية سابقة، وهو ما يثير قلقا بشأن اعتماد البعض على ChatGPT في قرارات حياتية حساسة.
وأعلنت الشركة أنها ستستعين بـ “مجلس خبراء الرفاهية”، والذي يضم مختصين في الصحة النفسية، وتطوير الشباب، والتفاعل بين الإنسان والحاسوب؛ للمساعدة في وضع الأولويات وتصميم أنظمة أمان مستقبلية.