تطبيقات تنتج صورا "فاضحة" لنساء وقاصرات وبرلمانية مغربية تطالب الحكومة بالتدخل

وجهت خديجة الزومي، عضو الفريق الاستقلالي للوحدة والتعادلية بمجلس النواب، سؤالا كتابيا، إلى أمل الفلاح السغروشني، وزيرة الانتقال الرقمي وإصلاح الإدارة، وذلك حول مخاطر بعض تطبيقات الذكاء الاصطناعي على النساء والقاصرات.

وأوضحت النائبة البرلمانية ذاته،  أن الذكاء الاصطناعي، بما يحمله من إمكانات تقنية هائلة، أضحى جزءًا من الحياة الرقمية اليومية، غير أن استعماله غير المؤطر أفرز في الأونة الأخيرة ممارسات خطيرة تمس بشكل مباشر الحقوق الأساسية للأفراد وعلى رأسها الحق في الكرامة الإنسانية، والحق في الصورة، وحماية الحياة الخاصة.

وفي هذا السياق، أثار تورط بعض تطبيقات الذكاء الاصطناعي التوليدي، مثل تطبيق Grok ، في إنتاج صور إباحية ومشينة لأشخاص حقيقيين، بدون علمهم أو موافقتهم، خصوصا لنساء وقاصرات، موجة استنكار واسعة على الصعيد الدولي، واعتبر ذلك شكلاً جديدًا من أشكال العنف الرقمي القائم على النوع الاجتماعي، وانتهاكًا خطيرًا لحقوق المرأة والطفل، لما يحمله من آثار نفسية واجتماعية جسيمة قد تُشبت الأسر وتُدمّر الأفراد، بحسب تعبير البرلمانية نفسها.

وأضافت  المتحدثة ذاتها، أن خطورة هذه الممارسات دفعت عدداً من الدول إلى فتح تحقيقات رسمية واتخاذ إجراءات تقييدية أو حظر مؤقت لبعض هذه التطبيقات بعد ثبوت قصور الضوابط التقنية والأخلاقية في منع إنتاج وتداول محتوى إباحي مزيف، يستهدف بشكل خاص النساء والقاصرات، ويُستعمل أحيانًا في التشهير والابتزاز والضغط النفسي.

وأمام تنامي استعمال هذه التطبيقات داخل الفضاء الرقمي المغربي، وما ينطوي عليه ذلك من مخاطر جدية تمس كرامة النساء وأمن الفتيات القاصرات،  ساءلت عضو الفريق الإستقلالي للوحدة والتعادلية بمجلس النواب، وزيرة الانتقال الرقمي وإصلاح الإدارة عن تقييم  الوزارة لخطورة بعض تطبيقات الذكاء الاصطناعي التوليدي التي تُستعمل في إنتاج محتوى إباحي مزيف، وعن التدابير الوقائية والتشريعية والتقنية التي تعتزمون اتخاذها لحماية النساء والقاصرات من هذه الممارسات.

كما استفسرت الوزيرة عما إذا كانت الحكومة تعتزم تقنين استعمال الذكاء الاصطناعي أو تحيين الإطار القانوني الجاري به العمل، وعن سبل التنسيق بين وزارة الانتقال الرقمي وإصلاح الإدارة  وباقي القطاعات المعنية للوقاية من هذه الانتهاكات والتصدي لآثارها الاجتماعية والنفسية.

انضم إلينا واحصل على نشراتنا الإخبارية