قررت إندونيسيا، صاحبة رابع أكبر عدد سكان في العالم، حظر الوصول إلى روبوت الدردشة المدعوم بالذكاء الاصطناعي Grok، بعد تقارير أفادت بتوليده صورا ذات طابع جنسي لنساء وأطفال حقيقيين.

وأعلنت وزارة الاتصالات الإندونيسية أنها علقت الوصول إلى Grok بشكل مؤقت، في خطوة تهدف إلى “حماية النساء والأطفال والمجتمع ككل من مخاطر المحتوى الإباحي المزيف الذي يتم إنشاؤه باستخدام تقنيات الذكاء الاصطناعي”.

وقالت وزيرة الاتصالات، موتيا حافظ، في بيان رسمي، إن الحكومة تعتبر ممارسات التزييف العميق الجنسي غير القائم على الموافقة 'انتهاكا خطيرا لحقوق الإنسان والكرامة الإنسانية وأمن المواطنين في الفضاء الرقمي'.

ويذكر أن شركة xAI، المملوكة لـ إيلون ماسك، تقف خلف تطوير Grok، في حين تملك أيضا منصة إكس (تويتر سابقا)، التي جرى دمج الروبوت فيها، وتعد إندونيسيا من أكبر أسواق المنصة، إذ تضم ثالث أكبر عدد من مستخدمي إكس على مستوى العالم.

ولم تقتصر الانتقادات على إندونيسيا، إذ تحركت حكومات عدة بعد استخدام Grok في “تعري رقمي” لأشخاص حقيقيين عبر الصور، قبل نشرها على منصة إكس .

ففي فرنسا، أعلنت السلطات هذا الشهر فتح تحقيق بشأن صور إباحية مزيفة جرى إنشاؤها باستخدام Grok. 

كما وجهت الحكومة الهندية رسالة إلى ممثل الامتثال الرئيسي لشركة إكس، حذرت فيها من “إساءة استخدام” الروبوت لتوليد صور ومقاطع فيديو “تنتهك كرامة النساء وتسيء إليهن بشكل فاضح”.

وطالبت وزارة الاتصالات الإندونيسية شركة إكس بإجراء “مراجعة تقنية وإجرائية شاملة، على مستوى الحوكمة أيضا”، مع إزالة أي محتوى ينتهك القوانين المحلية.

وفي بريطانيا، أكد مكتب تنظيم الاتصالات Ofcom أنه تواصل بشكل عاجل مع إكس وxAI لمعرفة الإجراءات المتخذة للامتثال للالتزامات القانونية الخاصة بحماية المستخدمين في المملكة المتحدة.

أما في الولايات المتحدة، فقد دعا عدد من أعضاء مجلس الشيوخ شركتي آبل وجوجل إلى إزالة تطبيقي إكس وGrok من متاجر التطبيقات، محذرين من أن “تجاهل السلوك الفاضح للمنصة يقوض ادعاءات توفير بيئة أكثر أمانا للمستخدمين”.

ورد إيلون ماسك على الانتقادات عبر منصة إكس، مؤكدا أن “أي شخص يستخدم Grok لإنتاج محتوى غير قانوني سيواجه العواقب نفسها كما لو قام برفع محتوى غير قانوني بنفسه”.

وفي بيان منفصل، أوضح حساب السلامة التابع لـ إكس أن الشركة تتخذ إجراءات صارمة ضد المحتوى غير القانوني، بما في ذلك إزالة المواد، وتعليق الحسابات نهائيا، والتعاون مع الحكومات والجهات الأمنية.

وعلى خلفية الجدل المتصاعد، جرى تقييد أداة توليد الصور في Grok لتصبح متاحة فقط للمشتركين المدفوعين، في محاولة لاحتواء الأزمة المتفاقمة.