الاتحاد الأوروبي يدقق في السلوك غير اللائق لـ'غروك' التابع لإيلون ماسك

يدقق الاتحاد الأوروبي على نحوٍ 'جاد للغاية' في سلوك روبوت الدردشة 'غروك' التابع لإيلون ماسك، بعد أن قام بإنشاء صور جنسية لأشخاص، من بينهم قاصرون، على منصة التواصل الاجتماعي 'إكس'.

وقال المتحدث باسم المفوضية الأوروبية توماس رينييه في مؤتمر صحفي يوم الاثنين: 'ندرك أن إكس أو غروك يقدمان الآن وضعًا يسمى 'Spicy Mode' يعرض محتوى جنسيًا صريحًا مع بعض المخرجات المنتجة في شكل صور تشبه الأطفال. هذا ليس مجرد محتوى مثير، هذا غير قانوني'.

طلب بعض مستخدمي منصة إكس من 'غروك' إزالة الملابس رقميًا من صور -أغلبها لنساء- بحيث تبدو الصور وكأنها لا ترتدي سوى الملابس الداخلية أو البيكيني، بحسب تقرير لوكالة بلومبرغ، اطلعت عليه 'العربية Business'.

أثار انتشار هذه الصور على منصة تواصل اجتماعي شهيرة مثل 'إكس' قلق الجهات التنظيمية والمدافعين عن السلامة على الإنترنت في جميع أنحاء العالم، وكان من بين من نددوا بهذه المنشورات مسؤولون من الهند وبريطانيا وفرنسا.

قال ماسك، في منشور على منصة إكس يوم الأحد، إن المنصة تتخذ إجراءات ضد المحتوى غير القانوني عن طريق حذفه وتعليق الحسابات نهائيًا والتعاون مع السلطات عند الضرورة، مضيفًا: 'أي شخص يستخدم غروك لإنشاء محتوى غير قانوني سيواجه العواقب نفسها التي يواجهها من يقوم بتحميل محتوى غير قانوني'.

في حين أن معظم نماذج الذكاء الاصطناعي الشائعة تحظر الصور ومقاطع الفيديو الجنسية، فقد قدمت شركة 'xAI'، التابعة لإيلون ماسك، 'غروك' على أنه أكثر تساهلًا. يسمح النظام بعرض صور لعُري جزئي للبالغين وصور ذات إيحاءات جنسية، حتى مع حظره للمواد الإباحية الصريحة التي تتضمن صورًا لأشخاص حقيقيين والمحتوى الجنسي الذي يتضمن قاصرين.

في بعض الدول، بما فيها الولايات المتحدة والمملكة المتحدة، يُعد نشر مواد حميمية مفبركة مُنشأة بتقنية التزييف العميق لأشخاص دون موافقتهم أمرًا غير قانوني. ويعد رسم هذه الحدود وفرضها اختبارًا حاسمًا لأنظمة الأمان المُدمجة في أدوات الذكاء الاصطناعي المُولّدة للصور.

وقد أثار الفشل الواضح لشركة 'xAI' في تطبيق ضوابط فعّالة إدانة من الجهات التنظيمية حول العالم.

قالت هيئة تنظيم الإعلام البريطانية (أوفكوم) يوم الاثنين إنها على علم بـ'مخاوف جدية' بشأن ميزات 'غروك'، وإنها تواصلت 'بشكل عاجل' مع شركتي منصة إكس وشركة 'xAI' لفهم الخطوات التي اتخذتاها للوفاء بالتزاماتهما القانونية بحماية المستخدمين في المملكة المتحدة.

واتهمت الحكومة الفرنسية 'غروك' يوم الجمعة بإنتاج محتوى جنسي 'غير قانوني بشكل واضح' على منصة إكس دون موافقة الأشخاص، مشيرة إلى أن الأمر قد ينتهك قانون الخدمات الرقمية للاتحاد الأوروبي، الذي يلزم المنصات الكبيرة بالحد من مخاطر انتشار المحتوى غير القانوني.

وطالبت وزارة تكنولوجيا المعلومات الهندية بإجراء مراجعة شاملة لخصائص الأمان في 'غروك'، وقالت السلطات الماليزية إنها تحقق في الأمر بعد تلقي شكاوى بشأن محتوى 'غير لائق' ينشره روبوت الدردشة.

تخضع منصة إكس التابعة لإيلون ماسك بالفعل لتحقيق بموجب قانون الخدمات الرقمية للاتحاد الأوروبي، وفي ديسمبر، غُرِّمت 120 مليون يورو (140 مليون دولار) لمخالفات تتعلق بالامتثال للقانون، وهي أول عقوبة تُفرض بموجب هذا القانون المثير للجدل لمراقبة المحتوى.

وقد أثار تركيز التكتل على شركات التكنولوجيا الأميركية مثل 'إكس' انتقادات شديدة من إدارة الرئيس الأميركي دونالد ترامب، التي زعمت أن الجهات التنظيمية الأوروبية تمارس رقابة على حرية التعبير.