"غروك" تحت المجهر بعد تقارير عن توليد صور ذات طابع جنسي لأطفال

أعلنت هيئة تنظيم الإعلام والاتصالات البريطانية 'أوفكوم' أنها أجرت 'اتصالاً عاجلاً' مع شركة 'إكس إيه آي' عقب تقارير عن إمكانية استخدام أداة الذكاء الاصطناعي التابعة لها 'غروك' في توليد صور ذات طابع جنسي لأطفال، إضافة إلى صور معدلة رقمياً تظهر نساء وكأنهن عاريات أو في أوضاع جنسية من دون موافقتهن. وقالت الهيئة إنها تحقق أيضاً في مخاوف تتعلق بإنتاج صور 'معراة' لأشخاص حقيقيين.

وأكدت 'أوفكوم' أن القانون البريطاني يجرم إنشاء أو مشاركة صور حميمة أو جنسية من دون موافقة أصحابها، حتى إن كانت مزيّفة بواسطة إنتاج الذكاء الاصطناعي، مشيرة إلى أن شركات التكنولوجيا ملزمة باتخاذ خطوات للحد من تعرض المستخدمين لمحتوى غير قانوني، وإزالته بسرعة عند العلم بوجوده.

وفي السياق نفسه، قالت 'مؤسسة مراقبة الإنترنت' في بريطانيا إنها تلقت بلاغات من الجمهور تتعلق بصور قيل إنها أنتجت عبر 'غروك' على منصة 'إكس'، لكنها أوضحت أنها لم ترَ حتى الآن محتوى يتجاوز العتبة القانونية التي تصنف بموجبها الصور على أنها مواد اعتداء جنسي على الأطفال.

ولم ترد الشركة على طلبات التعليق، لكنها أصدرت يوم الأحد تحذيراً للمستخدمين من استخدام 'غروك' لإنتاج محتوى غير قانوني، بما في ذلك مواد الاعتداء الجنسي على الأطفال. وكتب إيلون ماسك أن من يطلب من الأداة توليد محتوى غير قانوني 'سيواجه العواقب نفسها' التي قد يواجهها لمشاركته ذلك المحتوى بنفسه.

'غروك' مساعد ذكاء اصطناعي تطوره شركة 'إكس إيه آي' وهو مدمج داخل منصة 'إكس'. يتفاعل مع المستخدمين عند الإشارة إليه في المنشورات، ويستخدم عادة للإجابة عن الأسئلة أو لإضافة سياق إلى النقاشات العامة. الأداة متاحة مجاناً، مع بعض الميزات المدفوعة.

غير أن الجدل تصاعد لأن 'غروك' لا يقتصر على معالجة النصوص، بل يتيح أيضاً تعديل الصور باستخدام تقنيات الذكاء الاصطناعي. وقد اطلعت بي بي سي على أمثلة لمستخدمين طلبوا من الأداة تعديل صور حقيقية لنساء، بحيث يظهرن بملابس سباحة أو في أوضاع ذات طابع جنسي، من دون موافقتهن، إضافة إلى إدراج بعض الصور في سياقات جنسية.

ورغم أن سياسة الاستخدام لدى 'إكس إيه آي' تحظر 'تصوير أشخاص حقيقيين بطريقة إباحية'، فإن تقارير بي بي سي أشارت إلى أن ذلك لم يمنع عملياً استخدام الأداة في ما يوصف بـ'نزع الملابس رقمياً' أو إنتاج صور تحاكي العري.

ومن بين الأمثلة التي جرى تداولها على المنصة، صور معدلة رقمياً لكاثرين، أميرة ويلز. وكانت بي بي سي قد تواصلت مع قصر كنسينغتون للتعليق، من دون تلقي رد. ومع انتقال الظاهرة إلى شخصيات عامة، اتسع النقاش ليشمل حدود الخصوصية ومسؤولية المنصات الرقمية عندما تكون أدوات التعديل متاحة لملايين المستخدمين.

قبل أيام قليلة من بيان 'أوفكوم'، نشرت بي بي سي شهادة للصحافية البريطانية سامانثا سميث، تقول فيها إن مستخدمين استعملوا أداة الذكاء الاصطناعي 'غروك' لتوليد صور معدلة لها تظهرها بملابس سباحة أو في سياقات ذات طابع جنسي، من دون علمها أو موافقتها.

وقالت سميث إن ما حدث جعلها تشعر بأنها 'منزوعة الإنسانية ومختزلة في صورة نمطية جنسية'، مضيفة أن الإحساس بالانتهاك لا يقل، بالنسبة لها، عن نشر صورة عارية حقيقية، نظراً إلى أن الصور المعدلة بدت قريبة جداً من ملامحها الحقيقية.

وعقب نشر شهادتها على منصة 'إكس'، تفاعلت نساء أخريات بالحديث عن تجارب مشابهة. ولاحقاً، طلب بعض المستخدمين من 'غروك' توليد مزيد من الصور المعدلة لسميث بعد انتشار قصتها، ما أدى إلى تصاعد الغضب والضغط العام.

ولم تقدم شركة 'إكس إيه آي' تعليقاً مباشراً على هذه الاتهامات، واكتفت برد آلي اتهم 'وسائل الإعلام التقليدية بالكذب'.

وفي هذا السياق، قالت الخبيرة القانونية البريطانية المتخصصة في قضايا الاعتداء الجنسي القائم على الصور، كلير مكغلين، لبي بي سي، إن منصة 'إكس' أو أداة 'غروك' يمكنهما منع هذا النوع من الإساءة 'إذا أرادتا'، معتبرة أن المنصة سمحت بإنتاج هذه الصور وتداولها منذ أشهر من دون تحرك واضح، وفي ظل غياب تحدٍ تنظيمي حاسم.

الجدل الحالي يرتبط بسياق أوسع من المخاوف المتصاعدة بشأن المحتوى الإباحي 'المزيف'.

ففي كانون الثاني/يناير 2024، دعت شخصيات سياسية في الولايات المتحدة إلى تشريعات جديدة بعد انتشار صور إباحية مفبركة استخدمت فيها صورة المغنية تايلور سويفت، وحصولها على ملايين المشاهدات على منصات من بينها 'إكس' و'تيليغرام'.

وقالت منصة 'إكس' حينها إنها تعمل على إزالة الصور واتخاذ إجراءات بحق الحسابات التي نشرتها، كما قيدت البحث عن اسم سويفت. وكانت إحدى هذه الصور قد حصدت نحو سبعة وأربعين مليون مشاهدة قبل إزالتها.

وفي آب/أغسطس 2025، عادت سويفت إلى الواجهة ضمن جدل مرتبط بأداة توليد الفيديو التابعة لمنظومة 'غروك'، إذ قالت خبيرة قانونية لبي بي سي حينها، إن الأداة اتهمت بإنتاج مقاطع ذات طابع جنسي للمغنية من دون طلب صريح لمحتوى جنسي.

وفي السياق نفسه، دخلت قوانين بريطانية جديدة حيز التنفيذ في نهاية تموز/يوليو 2025، تلزم المنصات التي تعرض صوراً صريحة بالتحقق من أعمار المستخدمين بوسائل وصفت بأنها 'دقيقة تقنياً وقوية وموثوقة وعادلة'.

وقالت 'أوفكوم' إن التطبيقات التي تتضمن أدوات ذكاء اصطناعي توليدي قادرة على إنتاج مواد إباحية تخضع لهذه القواعد التنظيمية.

أما تشريعات الحماية المباشرة، فتسير في مسارين متوازيين. في بريطانيا، قال متحدث باسم وزارة الداخلية إن الحكومة تعمل على تشريع يستهدف حظر أدوات 'نزع الملابس رقمياً'، على أن يعامل تزويد هذه التكنولوجيا كجريمة جديدة قد تفضي إلى عقوبات بالسجن وغرامات كبيرة.

وفي الاتحاد الأوروبي، قالت المفوضية الأوروبية إنها تنظر 'بجدية' في القضية بعد منشورات نسبت إلى 'غروك' تضمنت محتوى جنسياً صريحاً و'بعض المخرجات' ذات طابع طفولي. واعتبر متحدث باسم المفوضية ذلك 'غير قانوني' ووصفه بأنه 'مقزز'، مؤكداً أنه 'لا مكان له في أوروبا'.

وأضاف أن 'إكس' تدرك جدية الاتحاد الأوروبي في تطبيق قواعده على المنصات الرقمية، مذكراً بأن الاتحاد كان قد فرض عليها، في قضية منفصلة، غرامة قدرها 120 مليون يورو في كانون الأول بسبب خرق قانون الخدمات الرقمية.