لحماية المراهقين .. "ميتا" تعيد تدريب الذكاء الاصطناعي الخاص بها

رم - قررت شركة ميتا إعادة تدريب نظامها للذكاء الاصطناعي الخاص بها لإضافة حماية جديدة لمنع المستخدمين المراهقين من مناقشة المواضيع الضارة مع روبوتات الدردشة الخاصة بالشركة.

وتقول ميتا إنها تضيف حواجز أمان جديدة كإجراء احترازي لمنع المراهقين من مناقشة إيذاء النفس واضطرابات الأكل وما إلى ذلك، باستخدام ميتا للذكاء الاصطناعي..

كما ستمنع الشركة المراهقين من الوصول إلى شخصيات روبوتات الدردشة التي ينشئها المستخدمون، والتي قد تنخرط في محادثات غير لائقة.

تفاعلات مثيرة للقلق

تأتي هذه التغييرات بعد تقارير عديدة لفتت الانتباه إلى تفاعلات مثيرة للقلق بين ميتا للذكاء الاصطناعي والمراهقين. يذكر أنه في وقت سابق من هذا الشهر، تم نشر وثيقة سياسة داخلية جديدة لشركة ميتا، أفادت بأن روبوتات الدردشة الذكية التابعة للشركة مسموح لها بإجراء محادثات 'حسية' مع مستخدمين قاصرين.

وصرحت ميتا لاحقًا بأن اللغة المستخدمة 'خاطئة ومخالفة لسياساتنا'، وتمت إزالتها. في السياق عينه، وجدت دراسة أن ميتا للذكاء الاصطناعي قادر على تشجيع المراهقين على الانتحار وإيذاء النفس.

تعزيز حواجز الحماية

تعمل ميتا الآن على تعزيز 'حواجز الحماية' الداخلية لديها، بحيث لا يُسمح للمراهقين بعد الآن بمثل هذه التفاعلات على إنستغرام وفيسبوك.

وصرحت المتحدثة باسم ميتا أن الشركة حرصت منذ البداية على توفير الحماية للمراهقين في منتجات الذكاء الاصطناعي لديها، بما في ذلك تصميمها للاستجابة بأمان للمطالبات المتعلقة بإيذاء النفس واضطرابات الأكل.

وأشارت إلى أن ميتا تتعلم باستمرار كيفية تفاعل الشباب مع هذه الأدوات، وتعزز حمايتها وفقًا لذلك عبر إضافة المزيد من الحواجز الأمنية كإجراء احترازي إضافي، بما في ذلك تدريب أنظمة الذكاء الاصطناعي لديها على عدم التفاعل مع المراهقين في هذه المواضيع، بل توجيههم إلى موارد الخبراء، وتقييد وصول المراهقين إلى مجموعة مختارة من شخصيات الذكاء الاصطناعي في الوقت الحالي.

وتجدر الإشارة إلى أن الحماية الجديدة سارية في الوقت الحالي، لكن يبدو أن ميتا لا تزال تعمل على تدابير أكثر استدامة لمعالجة المخاوف المتزايدة بشأن سلامة المراهقين وذكائها الاصطناعي. وأكدت ميتا أن هذه التحديثات قيد التنفيذ بالفعل، وأنها تواصل تكييف نهجها للمساعدة في ضمان حصول المراهقين على تجارب آمنة ومناسبة لأعمارهم مع الذكاء الاصطناعي.

وسيتم طرح الحماية الجديدة خلال الأسابيع القليلة المقبلة، وسيتم تطبيقها على جميع المراهقين الذين يستخدمون ميتا للذكاء الاصطناعي حول العالم.