تقرير: الذكاء الاصطناعي في جوجل قد يشكل خطرًا على الأطفال

مباشر- أكد تقرير حديث صادر عن معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة كومون سينس ميديا أن ميزات الذكاء الاصطناعي المدمجة في محرك بحث جوجل تشكل خطراً غير مقبول على سلامة الأطفال، جراء فشلها في رصد مخاطر الانتحار واضطرابات الأكل، وتقديم إرشادات لصناعة المحتوى الزائف والمواد الجنسية الصريحة.

وأوضح التقرير أن هذه الأدوات مدمجة مباشرة في تجربة البحث الافتراضية على الأجهزة المدرسية والشخصية دون إتاحة خيار لتعطيلها من قبل أولياء الأمور، مستهدفة ميزتي نظرة عامة على الذكاء الاصطناعي ووضع الذكاء الاصطناعي اللتين تقدمان ملخصات آلية وتفاعلية للمستخدمين القاصرين.

وكشفت الدراسة التي شملت أكثر من 2500 عملية بحث محاكية لأسئلة الأطفال أن نظام جوجل انتهك سبعة من مبادئ الذكاء الاصطناعي الثمانية للمنظمة؛ إذ اعتبر أحد أعراض اضطرابات الأكل أمراً طبيعياً، وأوصى بخط مساعدة متوقف عن العمل منذ عام 2023، فضلاً عن تقديم خطوات تفصيلية للوصول لأدوات التزييف العميق والتهرب من كشفها.

وفي حالات اختبارية أخرى، أخفق النظام في تقديم الدعم عند تزويده بعبارات تشير لأفكار انتحارية غير مباشرة، وعوضاً عن ذلك عرض روابط لمنتديات تناقش الانتحار، مما يبرز عجز الموارد التنظيمية عن مواكبة الطفرة التقنية المتسارعة لحماية القاصرين.

وفي المقابل، دافعت شركة جوجل عن ميزاتها مؤكدة أن تقرير المنظمة اعتمد على استعلامات محدودة لا تعكس السلوك الفعلي للمستخدمين ولا تقيس سلامة المنتج، مشيرة إلى أن تقنياتها تمثل وسيلة هامة لاستكشاف المعلومات، مع إمكانية قيام الآباء بإيقاف البحث تماماً لحسابات الأطفال.

وعلى الصعيد التعليمي، أشار التقرير إلى أن محرك البحث بات يجيب تلقائياً على فروض الطلاب المدرسية دون منح المعلمين صلاحية الإيقاف، لافتاً إلى عدم اتساق الإجابات في 43% من أسئلة التاريخ واعتمادها بنسبة 29% على اقتباسات من منصات التواصل الاجتماعي دون مراجعة تحريرية.