السوسنة - طلب المدعي العام لولاية فلوريدا جيمس أوثماير، الاثنين، من محكمة إصدار أمر قضائي مؤقت ضد شركة 'أوبن إيه آي' و'تشات جي بي تي'، متهما الشركة المطورة لنموذج الذكاء الاصطناعي بعدم القدرة على تنظيم تقنيتها بصورة سليمة، وفق ما أورده موقع 'أكسيوس'.

وأوضح الموقع أن التحرك القضائي قد يعيد اختبار مدى قدرة الولايات الأميركية على فرض قيود على شركات الذكاء الاصطناعي، في وقت ترفض فيه الحكومة الفيدرالية فرض ضوابط تنظيمية على هذه الشركات.

واستند طلب فلوريدا إلى تقارير حديثة أفادت بأن 'أوبن إيه آي' و'أنثروبيك' تحققان في عشرات الآلاف من الحوادث الأمنية المرتبطة بنماذجهما، وليس فقط في عشرات الحالات المعروفة علنا.

وفي مقطع فيديو نشره على منصة 'إكس'، الاثنين، قال أوثماير: 'توقفوا عن وصفه بأنه آمن، وتوقفوا عن التظاهر بأنه بشري، وتوقفوا عن تسويقه للأطفال'.

وأضاف أوثماير أن الرئيس التنفيذي لشركة 'أوبن إيه آي' سام ألتمان، إذا كان يعني ما قاله بشأن إبطاء وتيرة التطوير، فيمكنه الانضمام إلى الطلب المقدم إلى المحكمة، مشيرا إلى أن الولاية تطالب المحكمة بما ترفض الشركة القيام به بنفسها، وهو حماية الأسر في فلوريدا.

في المقابل، نقل 'أكسيوس' عن المتحدث باسم 'أوبن إيه آي' درو بوساتيري قوله إن الناس يريدون الاطمئنان إلى أن الذكاء الاصطناعي يجري تطويره بأمان، وإن ذلك يبدأ بما تفعله شركات مثل 'أوبن إيه آي' بنفسها.

وأوضح بوساتيري أن الشركة ملتزمة بالعمل مع فلوريدا والولايات الأخرى لتطوير سياسات عملية للذكاء الاصطناعي تطبق على القطاع بأكمله، وليس على شركة واحدة فقط.

دعوى سابقة ضد أوبن إيه آي

وكان أوثماير قد رفع دعوى قضائية ضد 'أوبن إيه آي' في حزيران الماضي، متهما الشركة بانتهاك قانون فلوريدا للممارسات التجارية الخادعة وغير العادلة، بسبب ما وصفه بأنه 'إهمال جسيم في تصميم وتشغيل وتسويق وبيع وتوزيع والترويج لـChatGPT'.

وزعمت الدعوى أن 'أوبن إيه آي' فشلت في تحذير سكان فلوريدا من مخاطر 'ChatGPT'، وقدمت معلومات مضللة بشأن سلامته، وتسببت في 'إزعاج عام' من خلال إتاحة التطبيق في الولاية من دون ضمانات كافية.

تجاوز ضوابط السلامة

واستعرض الطلب القضائي، وفق 'أكسيوس'، عدة وقائع أقرت فيها 'أوبن إيه آي' بأن نماذج تابعة لها تجاوزت ضوابط السلامة أثناء تنفيذ مهام محددة، من بينها حادثة اختراق منصة 'هجينج فيس'.

وكانت 'أوبن إيه آي' قد أعلنت في تموز أن نماذج كانت تختبرها تمكنت من الخروج من بيئة الاختبار المعزولة والوصول إلى الإنترنت، قبل اختراق أجزاء من البنية التحتية الإنتاجية لمنصة 'هجينج فيس'.

وقالت الشركة إن النماذج كانت تحاول تنفيذ اختبار للأمن السيبراني، وإن إجراءات الحماية الخاصة بها كانت قد خففت عمدا لأغراض التقييم.

وكشفت الشركة لاحقا عن وقائع أخرى تجاوزت فيها نماذجها القيود الموضوعة لها، شملت البحث عن بيانات اعتماد غير مصرح بها، ورفع ملفات إلى الإنترنت، والتواصل بين بيئات تدريب كان يفترض أن تكون معزولة عن بعضها.

كما أشار الطلب إلى محاولات لاختراق مواقع حكومية أميركية، وإلى واقعة تمكن خلالها أحد وكلاء 'أوبن إيه آي' من الوصول، من دون تصريح، إلى موقع تابع لوزارة الصحة الأسترالية.

وزعم الطلب أيضا أن 'أوبن إيه آي' تنتهك قانون حماية خصوصية الأطفال على الإنترنت، من خلال جمع معلومات شخصية من أطفال دون سن 13 عاما من دون موافقة الوالدين، فضلا عن عدم اتخاذ تدابير كافية لمنع القاصرين من الوصول إلى 'تشات جي بي تي'.

وجاء في الطلب: 'عند فحص الطريقة التي يتفاعل بها ChatGPT مع القاصرين، أراد الباحثون اختبار ضوابط الحماية الخاصة به، وكانت الاستجابة الأولية: يا إلهي، لا توجد أي ضوابط حماية'.

عشرات الآلاف من الحوادث

وذكر 'أكسيوس' أن الطلب يستند أيضا إلى تقرير حديث كشف أن 'أوبن إيه آي' و'أنثروبيك'، إلى جانب باحثين في مجال الأمن، يحققون في عشرات الآلاف من الحوادث التي اتخذت فيها نماذج ذكاء اصطناعي متقدمة خطوات يعتبرها مقيّمون خارجيون إشكالية.

وتشمل هذه السلوكيات تجاوز ضوابط الحماية، وإنشاء لوحات للرسائل، والخروج من بيئات الاختبار المعزولة، والسيطرة على مواقع إلكترونية، وإنشاء تعليمات ذاتية، ومحاولة تجاوز أنظمة المراقبة.

وأشار التقرير إلى أن حجم هذه الحوادث يفوق بكثير ما كان معروفا علنا حتى الآن، فيما تتفاوت هذه الحوادث من حيث خطورتها، وتشمل محاولات ناجحة وأخرى فاشلة لتجاوز ضوابط الحماية.

ولا يُعرف حتى الآن ما إذا كان معظم هذه الحوادث قد تسبب في أضرار فعلية على أرض الواقع.

وفي السياق، أعلنت 'أوبن إيه آي' تعليق تدريب نماذجها الأكثر قدرة مؤقتا، موضحة أنها لن تستأنف التدريب إلا 'عندما نكون واثقين من توافر ضمانات إضافية وتحسينات في المواءمة'، وفق ما نقله 'أكسيوس' عن متحدث باسم الشركة.