محتوى غير لائق وانتهاك للخصوصية.. تحذيرات من دمى أطفال تروج لسلوكيات خطرة

محتوى غير لائق وانتهاك للخصوصية.. تحذيرات من دمى أطفال تروج لسلوكيات خطرة

حذرت منظمة كومون سينس ميديا (Common Sense Media) الأمريكية من المخاطر المحتملة للدمى الناطقة المزودة بالذكاء الاصطناعي على الأطفال، مشيرة إلى احتوائها على مضامين غير ملائمة، فضلا عن مخاوف تتعلق بانتهاك خصوصية البيانات داخل المنازل.

وأوضحت المنظمة، المعنية بتقييم ومراقبة المحتوى الرقمي والتقنيات الموجهة للأطفال والأسر، أن تحليلا أجرته أظهر أن نسبة ملحوظة من مخرجات هذه الألعاب تضمنت محتوى غير لائق للأطفال.

وبحسب نتائج التحليل، فإن أكثر من ربع الردود الصادرة عن بعض الدمى الذكية احتوى على إشارات إلى موضوعات حساسة، من بينها إيذاء النفس، وتعاطي المخدرات وسلوكيات خطرة لا تتناسب مع الفئات العمرية الصغيرة.

وأشارت المنظمة إلى أن اعتماد هذه الدمى على تقنيات الذكاء الاصطناعي التوليدي (Generative AI) يجعلها قادرة على إنتاج ردود غير متوقعة، قد لا تكون خاضعة دائما لآليات رقابة فعالة أو مرشحات محتوى صارمة، ما يفتح الباب أمام احتمالات تعرض الأطفال لمضامين غير مناسبة.

مخاوف تتعلق بالخصوصية

ولم تقتصر التحذيرات على طبيعة المحتوى، بل امتدت إلى مسألة جمع البيانات، إذ أكدت المنظمة أن هذه الألعاب تعتمد في كثير من الأحيان على نماذج اشتراك رقمية، وتستخدم تقنيات تهدف إلى تعزيز الارتباط العاطفي بين الطفل والدمية.

وقالت إن بعض الشركات توظف آليات تحاكي الصداقة أو العلاقة الشخصية، بما يشجع الأطفال على التفاعل المكثف معها، في حين يجري في الخلفية جمع كميات كبيرة من البيانات، تشمل تسجيلات صوتية، ونصوص محادثات، وبيانات سلوكية داخل المساحات الخاصة بالمنزل.

وحذرت من أن هذا النمط من التفاعل قد يعرض خصوصية الأسرة للخطر، في ظل غياب فهم كاف لدى الأطفال لطبيعة البيانات التي يتم جمعها أو كيفية استخدامها.

توصيات للأسر

وأوصت المنظمة بعدم استخدام الأطفال دون سن الخامسة للدمى الناطقة المزودة بالذكاء الاصطناعي، نظرا لعدم قدرتهم على التمييز بين التفاعل الواقعي والافتراضي، فيما دعت إلى توخي الحيطة والحذر مع الفئة العمرية بين 6 و12 عاما.

كما شددت على أهمية اطلاع أولياء الأمور على سياسات الخصوصية الخاصة بهذه الألعاب، وضبط إعدادات الأمان، ومراقبة طبيعة المحتوى الذي يتعرض له الأطفال أثناء استخدامها.

ويأتي هذا التحذير في وقت يشهد فيه سوق ألعاب الأطفال توسعا في دمج تقنيات الذكاء الاصطناعي، ما يثير تساؤلات متزايدة بشأن الأطر التنظيمية الكفيلة بحماية القُصّر من المخاطر الرقمية المحتملة.

المصدر: الجزيرة + الألمانية