فرضت منصة 'إكس' قيودًا جديدة على استخدام نموذج الذكاء الاصطناعي 'جروك' (Grok)، في أعقاب حوادث متكررة استغل فيها بعض المستخدمين قدرات النموذج لمحاولة إنشاء صور مُسيئة تُظهر أشخاصًا وكأنهم بلا ملابس اعتمادًا على صورهم الأصلية، ما أثار موجة انتقادات واسعة بشأن الخصوصية والسلامة الرقمية.

وبحسب تقارير متخصصة، لجأت الشركة إلى تقليص نطاق الوصول إلى 'جروك' وتشديد بعض سياسات الاستخدام، من دون إجراء تعديلات جوهرية على النموذج نفسه أو تقييد قدراته التقنية في هذا الجانب.

ويرى خبراء في الذكاء الاصطناعي أن هذه الخطوات تبقى محدودة الأثر، ولا تعالج أصل المشكلة أو توفر حماية كافية للمستخدمين من إساءة الاستخدام.

وتعود القضية إلى قيام بعض المستخدمين بتجربة إمكانات 'جروك' في معالجة الصور وتوليد محتوى بصري انطلاقًا من صور شخصية حقيقية، في محاولات لدفع النموذج إلى إنتاج نسخ 'منزوعة الملابس'، وهي ممارسة تُعرف تقنيًا باسم 'نزع الملابس رقميًا' (AI Undressing).

وتُعد هذه الممارسات، وفق مختصين، شكلًا من أشكال العنف الرقمي والاعتداء على الخصوصية، لما قد تسببه من تشويه للسمعة أو ابتزاز أو نشر محتوى إباحي غير حقيقي.

وردًا على هذه الحوادث، اتجهت 'إكس' إلى تقييد عدد المستخدمين القادرين على الوصول إلى 'جروك' أو بعض خصائصه، وربط الاستخدام بمستويات اشتراك محددة، إلى جانب تعزيز بنود في سياسة الاستخدام تحظر إنشاء محتوى جنسي أو مُسيء اعتمادًا على صور حقيقية. غير أن مراقبين يرون أن هذه الإجراءات تركز على من يُسمح له باستخدام الأداة، أكثر من تركيزها على كيفية عمل الأداة ذاتها، في ظل غياب ضوابط تقنية صارمة تمنع النموذج من إنتاج هذا النوع من المحتوى من الأساس.

ويحذر خبراء الخصوصية من أن نماذج الذكاء الاصطناعي التوليدية باتت قادرة على إنتاج صور واقعية للغاية لأشخاص حقيقيين في أوضاع لم تحدث فعليًا، مثل الصور العارية المزيفة أو محتوى 'الديب فيك'، ما يثير إشكاليات قانونية وأخلاقية معقدة.

كما يشيرون إلى أن المخاطر لا تقتصر على المشاهير، بل تطال أفرادًا عاديين قد يتعرضون للتنمر الإلكتروني أو الابتزاز أو أشكال مختلفة من العنف الرقمي.

وفي هذا السياق، تتزايد الدعوات إلى إدخال إصلاحات تقنية وتشريعية أكثر صرامة، تشمل تضمين ضوابط داخل نماذج الذكاء الاصطناعي نفسها تمنع استخدامها في إنتاج محتوى جنسي غير توافقي أو تشهيري، إلى جانب سن تشريعات تُجرّم إنتاج وتداول الصور المزيفة التي تنتهك الخصوصية، وتحمّل الشركات التقنية جزءًا من المسؤولية في حال تقصيرها في توفير الحماية اللازمة.

ورغم أن خطوة 'إكس' تعكس اعترافًا بوجود مشكلة، فإن كثيرين يرون أنها لا ترقى إلى مستوى الإصلاح المطلوب، ما يُبقي الجدل مفتوحًا حول مدى التزام المنصة، وغيرها من شركات التقنية، بحماية المستخدمين من التداعيات الخطيرة لسوء استخدام تقنيات الذكاء الاصطناعي.