بيت لحم- معا- تعتزم «إنستغرام» فرض قيود على المحتوى المتاح للمستخدمين دون سن 18 عاماً على المنصة، عبر استخدام فلاتر مستوحاة من نظام تصنيف الأفلام للمحتوى المخصص لأعمار 13 سنة فأكثر، في أحدث خطوة من شركة «ميتا» مالكة «إنستغرام» لمعالجة الانتقادات بأنها لا تتخذ التدابير الكافية لحماية المستخدمين صغار السن.

وقالت «ميتا»، الثلاثاء، إن النظام الجديد سيحد من عرض المنشورات التي تتضمن ألفاظاً نابية أو مشاهد تنطوي على خطورة أو إشارات إلى مخدرات أو غيرها من المحتوى غير المناسب لصغار السن، وسيُطبق أيضاً على أدوات الذكاء الاصطناعي التوليدي التابعة للشركة، حسبما أفادت وكالة «رويترز» للأنباء.

وتأتي الخطوة في أعقاب انتقادات من جماعات حقوقية ودعاوى قضائية تتهم «ميتا» بالفشل في حماية صغار السن من المحتوى المضر أو تضليلهم بشأن الآثار النفسية لمنصاتها.

وصدر تقرير في سبتمبر (أيلول) كشف أن العديد من ميزات الأمان التي تقول «ميتا» إنها طبقتها على «إنستغرام» على مدى أعوام إما لا تعمل بفاعلية أو غير موجودة. وكشفت تقارير لوكالة «رويترز» في أغسطس (آب) أن الشركة سمحت بسلوكيات استفزازية من روبوتات الدردشة، بما في ذلك السماح للروبوتات بالانخراط في محادثات «عاطفية أو حسية» مع المستخدمين.

وأوضحت «ميتا»، اليوم، أن التحديث الجديد سيضع حسابات المستخدمين صغار السن تلقائياً ضمن إعدادات نظام تصنيف المحتوى المخصص لأعمار 13 سنة فأكثر، والذي يمكّن الآباء من ضبط هذه الإعدادات لزيادة مستوى الرقابة وتحديد مدة الاستخدام من خلال «إعدادات المحتوى المحدود»، وسيُمنع المستخدمون صغار السن أيضاً من التفاعل مع الحسابات التي تنشر محتوى غير مناسب لأعمارهم.

وأضافت الشركة في بيان: «نأمل أن يُطمئن هذا التحديث الآباء. نحن ندرك أن بعض المراهقين ربما يحاولون تجاوز هذه القيود؛ ولذلك سنستخدم تقنية تقدير العمر لضمان تطبيق الحماية حتى لو ادّعى المستخدم أنه بالغ».

وأضافت «ميتا» في أغسطس إجراءات حماية على منتجاتها المعتمدة على الذكاء الاصطناعي لحماية القُصّر من محادثات تتعلق بإيذاء النفس أو الانتحار أو التودد. وجاء ذلك بعد إصلاح شامل أجرته العام الماضي لتعزيز الخصوصية والرقابة الأبوية على حسابات «إنستغرام» لمن هم دون 18 عاماً.

وسيبدأ تطبيق التحديث الجديد تدريجياً في الولايات المتحدة وبريطانيا وأستراليا وكندا على أن يتم تعميمه عالمياً بحلول نهاية العام. وتعمل «ميتا» على إدخال تحسينات مماثلة على منصة «فيسبوك».

ويواجه قطاع الذكاء الاصطناعي رقابة متزايدة من الجهات التنظيمية الأميركية بسبب المخاوف من التأثيرات السلبية لمحادثات روبوتات الدردشة.