تحظر البحث المباشر عن محتوى يحض على إيذاء النفس

أعلنت منصة 'إنستغرام' أنها ستبدأ خلال الأسابيع المقبلة بإرسال تنبيهات لأولياء الأمور إذا كرر المراهقون البحث عن محتوى يتعلق بالانتحار أو إيذاء النفس خلال فترة زمنية قصيرة.

الميزة الجديدة ستتوفر للأهالي المشتركين في نظام الإشراف الأبوي داخل التطبيق، وتهدف — بحسب الشركة — إلى تمكينهم من التدخل المبكر وتقديم الدعم لأبنائهم.

متى يتم إرسال التنبيه؟

توضح المنصة، التابعة لشركة ميتا، أنها تحظر بالفعل البحث المباشر عن محتوى يحض على الانتحار أو إيذاء النفس، بحسب تقرير نشره موقع 'تك كرانش' واطلعت عليه 'العربية Business'.

لكن النظام الجديد سيُفعل عندما يُلاحظ تكرار محاولات البحث عن عبارات مثل:

– كلمات تشجع على الانتحار أو إيذاء النفس.

– عبارات قد تشير إلى أن المراهق معرض للخطر.

– مصطلحات عامة مثل 'suicide' أو 'self-harm'.

وسيصل التنبيه إلى الوالدين عبر البريد الإلكتروني أو الرسائل النصية أو تطبيق 'واتساب'، إلى جانب إشعار داخل التطبيق، متضمناً موارد إرشادية لمساعدتهم على بدء حوار داعم مع أبنائهم.

خطوة وسط ضغوط قانونية

يأتي الإعلان في وقت تواجه فيه ميتا وعدد من شركات التقنية الكبرى دعاوى قضائية تتهمها بالتقصير في حماية المراهقين من الأضرار النفسية المرتبطة باستخدام وسائل التواصل الاجتماعي.

وخلال جلسات استماع هذا الأسبوع أمام المحكمة الفيدرالية في المنطقة الشمالية من كاليفورنيا، خضع رئيس 'إنستغرام' آدم موسيري لاستجواب بشأن تأخر إطلاق ميزات أمان أساسية، من بينها فلتر العُري في الرسائل الخاصة للمراهقين.

كما كشفت شهادة في قضية منفصلة أمام محكمة مقاطعة لوس أنجلوس العليا أن دراسة داخلية في 'ميتا' وجدت أن أدوات الرقابة الأبوية لم تُحدث تأثيراً كبيراً في الحد من الاستخدام القهري للتطبيقات لدى الأطفال، خاصة أولئك الذين يواجهون ضغوطاً حياتية كبيرة.

توازن بين الحماية والخصوصية

أكدت 'إنستغرام' أنها تسعى لتجنب الإفراط في إرسال التنبيهات، لأن كثرتها قد تفقدها فعاليتها.

وأوضحت أنها اعتمدت حداً معيناً يتطلب تكرار عمليات البحث خلال فترة قصيرة قبل إرسال الإشعار، وذلك بالتشاور مع خبراء في مجال الوقاية من الانتحار وإيذاء النفس.

الميزة ستبدأ بالوصول إلى المستخدمين في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا الأسبوع المقبل، على أن يتم توسيعها إلى مناطق أخرى لاحقاً هذا العام.

وفي خطوة مستقبلية، تخطط المنصة لتوسيع نطاق التنبيهات لتشمل الحالات التي يحاول فيها المراهق التفاعل مع أدوات الذكاء الاصطناعي داخل التطبيق بشأن موضوعات تتعلق بالانتحار أو إيذاء النفس.

بهذا التحديث، تحاول 'إنستغرام' تعزيز أدوات الحماية الاستباقية، في وقت تتزايد فيه المطالبات بمساءلة المنصات الرقمية عن تأثيرها على الصحة النفسية للمراهقين.