بعد انتحار مراهق… نظام جديد لـ"تشات جي بي تي" للتّحقق من العمر!

أعلنت شركة 'أوبن أيه آي' أنها ستفرض قيوداً على كيفية استجابة 'تشات جي بي تي' للمستخدمين الذين تشتبه في أنهم دون سن 18 عاماً.

وجاء إعلان الشركة بعد دعوى قضائية رفعتها عائلة مراهق يبلغ من العمر 16 عاماً أقدم على الانتحار عقب محادثاته مع روبوت الدردشة 'تشات جي بي تي'.

وقال الرئيس التنفيذي للشركة سام ألتمان في تدوينة نُشرت الثلاثاء إن 'الأولوية ستكون للسلامة قبل الخصوصية والحرية بالنسبة للمراهقين'، مؤكداً أن 'القُصَّر يحتاجون إلى حماية كبيرة'.

وأوضح ألتمان أن الشركة تعتزم بناء نظام للتنبؤ بالعمر، يقدّر عمر المستخدمين استناداً إلى طريقة استخدامهم للتطبيق.

وإذا كان هناك شك لدى التطبيق، فسوف يُفترض أن التجربة تخص من هم دون 18 عاماً.

وأشار ألتمان إلى أن بعض المستخدمين 'في بعض الحالات أو البلدان، قد يُطلب منهم أيضا تقديم بطاقة هوية للتحقق من أعمارهم'.

وأكد ألتمان أن طريقة استجابة 'تشات جي بي تي' للحسابات المصنفة على أنها أقل من 18 عاماً ستتغير، إذ سيتم حظر المحتوى الجنسي الصريح، كما سيتم تدريب روبوت الدردشة على عدم المغازلة إذا طُلب منه ذلك من قبل مستخدمين قُصَّر، ولن يشارك في نقاشات حول الانتحار أو إيذاء النفس حتى في سياقات الكتابة الإبداعية.

وتابع قائلا: 'إذا أبدى مستخدم دون 18 عاماً ميولا انتحارية، فسنسعى للتواصل مع والديه، وإذا تعذر ذلك، فسنخاطب السلطات في حال وجود خطر وشيك'، حسبما نقلت صحيفة 'ذا غارديان' البريطانية.

وتزعم عائلة المراهق الذي انتحر أن نسخة من تطبيق 'تشات جي بي تي' قدّمت له إرشادات حول ما إذا كانت الطريقة التي اختارها لإنهاء حياته ستنجح، كما عرض مساعدته في كتابة رسالة انتحار لوالديه.

وأفادت وثائق القضية أن المراهق تبادل مع 'تشات جي بي تي' ما يصل إلى 650 رسالة يومياً.