هذه الدولة أول من حظرت (Grok) بعد إساءة استخدامه في إنتاج محتوى (غير ملائم)

أعلنت إندونيسيا، اليوم السبت، فرض حظر مؤقت على روبوت الدردشة 'Grok' التابع لشركة xAI المملوكة للملياردير الأمريكي إيلون ماسك، على خلفية مخاوف متزايدة من إساءة استخدام تقنيات الذكاء الاصطناعي في إنتاج صور ومقاطع مزيفة عميقة تستهدف النساء والأطفال دون موافقتهم، بحسب الرجل.

أسباب حظر روبوت الدردشة Grok

وفي هذا الصدد، قالت وزيرة الاتصالات والرقمنة الإندونيسية، ميوتيا حافظ، إن القرار يهدف إلى 'حماية النساء والأطفال والمجتمع بأسره من مخاطر المحتوى (غير الملائم) المزيف الناتج عن تقنيات الذكاء الاصطناعي'.

وأكدت أن إنشاء هذا النوع من المحتوى دون موافقة الضحايا يُعد 'انتهاكًا خطيرًا لحقوق الإنسان وكرامة وأمن المواطنين في الفضاء الرقمي'.

ووصفت الوزيرة هذه الممارسات بأنها شكل من أشكال 'العنف القائم على التكنولوجيا الرقمية' الذي يتطلب تدخلاً حازمًا من الدولة.

ويأتي الحظر الإندونيسي في ظل تصاعد الضغوط والانتقادات الدولية الموجهة إلى منصة إكس وشركتها التابعة xAI، على خلفية قدرات Grok في توليد الصور.

تصاعد الضغوط الدولية

ووصف رئيس الوزراء البريطاني كير ستارمر المحتوى 'غير ملائم' بأنها 'مخزية ومقززة'، داعيًا المنصة إلى اتخاذ إجراءات صارمة، كما طالب هيئة تنظيم الإعلام البريطانية بدراسة جميع الخيارات الممكنة، بما في ذلك فرض حظر محتمل.

واعتبر رئيس الوزراء الأسترالي أنتوني ألبانيزي استخدام الذكاء الاصطناعي لإنشاء صور مزيفة دون موافقة 'أمرًا بغيضًا'.

وفتحت السلطات في فرنسا والهند وماليزيا تحقيقات رسمية بشأن روبوت الدردشة، بينما دعا ثلاثة من أعضاء مجلس الشيوخ الأمريكي شركتي آبل وغوغل إلى إزالة تطبيقي إكس وGrok من متاجر التطبيقات، بدعوى مخالفتهما للسياسات التي تحظر المحتوى 'غير الملائم'.

وعلى إثر هذه الانتقادات والإدانات؛ أعلنت شركة xAI حصر وصول ميزات إنشاء الصور وتحريرها في Grok على الحسابات المدفوعة فقط، إلا أن منتقدين اعتبروا الخطوة غير كافية، ووصف متحدث باسم رئاسة الوزراء البريطانية هذا الإجراء بأنه 'مهين للضحايا'، معتبرًا أنه يحوّل القدرة على إنتاج محتوى غير قانوني إلى خدمة مدفوعة.

ووفقًا لوكالة رويترز فإن الشركة ردت بما يشبه الرسالة الآلية والتي جاء فيها أن 'وسائل الإعلام التقليدية تكذب'، بينما قال إيلون ماسك عبر منصة 'إكس' إن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني 'سيواجه العواقب نفسها كما لو قام برفع محتوى غير قانوني'.

وأكدت وزارة الاتصالات والشؤون الرقمية الإندونيسية أنها استدعت مسؤولي منصة 'إكس' لبحث توضيحات فنية وتحديد تدابير تقنية تمنع إساءة الاستخدام مستقبلًا.

وشددت على أن السماح بعودة Grok مرهون بتطبيق مرشحات محتوى صارمة والالتزام بالمعايير الأخلاقية للذكاء الاصطناعي، لاسيما في دولة تطبق قوانين مشددة ضد المحتوى 'غير الملائم' عبر الإنترنت.