حظرت إندونيسيا مؤقتاً برنامج الدردشة الآلي 'جروك' التابع لإيلون ماسك يوم السبت بسبب خطر المحتوى الإباحي الذي يولده الذكاء الاصطناعي، لتصبح بذلك أول دولة تمنع الوصول إلى أداة الذكاء الاصطناعي هذه.

وتأتي هذه الخطوة بعد أن أدانت الحكومات والهيئات التنظيمية من أوروبا إلى آسيا المحتوى الجنسي الموجود على التطبيق، وقامت بعضها بفتح تحقيقات بشأنه.

أعلنت شركة xAI الناشئة، التي تقف وراء تطبيق Grok، يوم الخميس أنها ستقيد إنشاء الصور وتحريرها للمشتركين الذين يدفوعون فقط، وذلك في محاولة منها لإصلاح الثغرات الأمنية التي سمحت بظهور مواد ذات طابع جنسي، بما في ذلك صور لصغار يرتدون ملابس فاضحة.

وذكرت 'تعتبر الحكومة ممارسة التزييف العميق الجنسي غير الرضائي انتهاكاً خطيراً لحقوق الإنسان وكرامته وأمن المواطنين في الفضاء الرقمي'، هذا ما صرح به وزير الاتصالات والشؤون الرقمية موتيا حفيد في بيان.

فيما قال ماسك، إن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو كان قد قام بتحميل محتوى غير قانوني.

كما طالبت الحكومة البريطانية، منصة إكس المملوكة للمليادير الأمريكي إيلون ماسك بمعالجة موجة الصور الإباحية التي تم إنشاؤها بالذكاء الاصطناعي مؤخرًا والتي استهدفت فتيات حقيقيات وأطفال، في أزمة طالت عدد من الفتيات اللواتي وقعن ضحية إنشاء صور عارية باستخدام الـAI.

وبحسب صحيفة الجارديان، هددت الحكومة البريطانية منصة إكس بأنها ستواجه حظرًا فعليًا، بعد أن وصف أحد الخبراء المنصة بأنها لم تعد مكانًا آمنًا للنساء.

وقالت ضحايا حملة تعديل الصور باستخدام جروك Grok التابعة للمنصة، والتي تناولتها وسائل الإعلام العالمية حيث أحدثت ضجة كبري، أن القيود الجزئية التي فرضتها المنصة جاءت متأخرة جدًا، إذ ما زال بإمكان المشتركين المدفوعين إنشاء صور مسيئة، وهو ما يزيد من الضرر النفسي والإحباط.

وأكدت هيئة مراقبة الإعلام في المملكة المتحدة، أوفكوم،  بحسب صحيفة الجارديان أنها ستسرع التحقيق في منصة إكس وسط تزايد ردود الفعل الغاضبة تجاه الموقع، الذي استضاف كمًا هائلًا من الصور التي تظهر نساءً وأطفالًا شبه عراة.

وأعلنت إكس عن تقييد إمكانية إنشاء الصور عبر أداة Grok AI ، استجابةً للغضب العالمي.

وذكرت المنصة أن القدرة على توليد وتحرير الصور ستقتصر الآن على المشتركين المدفوعين، الذين يتعين عليهم تقديم بيانات شخصية، ما يعني إمكانية تحديد هويتهم في حال إساءة استخدام الوظيفة.

ومع ذلك، لم يخف هذا الإجراء الغضب وعزز رد الفعل السلبي من الضحايا والسياسيين والخبراء، الذين اعتبروا أن الخطوة غير كافية.

وقالت كلير واكسمان، مفوضة الحكومة الجديدة لشؤون ضحايا الجرائم، إن المنصة لم تعد مكانًا آمنًا للضحايا، وإن مكتبها يدرس تقليص وجوده على المنصة والتركيز على التواصل عبر إنستجرام.

وأضافت أن المنصة تعيق جهود مكافحة العنف ضد النساء والفتيات، وأن انتشار المحتوى المسيء يؤثر سلبًا على الصحة النفسية للمستخدمين.

ومع تزايد أعداد أعضاء البرلمان والمنظمات التي تغادر إكس، قالت وزيرة التكنولوجيا ليز كيندال يوم الجمعة إن الوزراء يدرسون بجدية احتمال حظر الوصول إلى X في المملكة المتحدة، وأوضحت أنها تتوقع أن تعلن أوفكوم عن إجراءات خلال أيام وليس أسابيع.

وقالت إن إكس بحاجة إلى السيطرة على الوضع وإزالة هذا المحتوى، محذرة من أن قانون السلامة على الإنترنت يمنح السلطات صلاحيات لحظر الوصول إلى الخدمات في حال عدم الامتثال للقانون، وأن الحكومة ستدعم أي خطوة تتخذها أوفكوم بهذا الصدد.

وأفادت أوفكوم بأنها تواصلت مع إكس يوم الاثنين وحددت مهلة صارمة ليوم الجمعة لتقديم تفسير، مؤكدة أنها تجري تقييمًا عاجلا وستصدر تحديثات قريبًا، ووفقًا للقانون، يمكن للهيئة إجبار المنصات على التعامل مع هذا النوع من المحتوى وفرض غرامات مالية ضخمة، مع إمكانية صدور أمر قضائي لحظر الموقع بالكامل.

وصرح ماسك سابقًا، بأن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيتحمل نفس العقوبات كمن نشر المحتوى نفسه.

ومع تزايد الضغط على الحكومة لاتخاذ إجراءات، تزايدت الشكاوى من الطلبات على إكس لتحويل صور النساء، وأحيانًا الأطفال، إلى صور عارية أو ذات طابع جنسي. ويبلغ عدد مستخدمي X نحو 300 مليون شهريًا، بينما تشير التقديرات إلى أن عدد المشتركين المدفوعين يتراوح بين 2.2 و2.6 مليون.

وأوضح متحدث باسم داونينج ستريت أن التقييد الجديد غير مقبول، واصفًا الخطوة بأنها تحوّل ميزة الذكاء الاصطناعي التي تتيح إنشاء صور غير قانونية إلى خدمة مدفوعة، معتبرًا أن ذلك لا يمثل حلًا ويُعد إهانة للضحايا.