مباشر- أوقفت شركة 'أوبن إيه آي' بعض الأنشطة الداخلية المرتبطة بنموذجها الجديد أسترا، بعدما أثارت قدراته المحتملة مخاوف بشأن إمكانية استخدامه لتنفيذ هجمات إلكترونية بشكل مستقل. وقالت الشركة إنها لا تستطيع استبعاد بلوغ النموذج مستوى القدرات السيبرانية الحرجة، الذي يعني قدرته على مهاجمة دفاعات إلكترونية متطورة دون تلقي تعليمات تفصيلية تحدد طريقة تنفيذ الهجوم. وأوضحت أن التقييمات الأولية أظهرت أداءً قوياً، لكنها لا تزال تواصل اختبار النموذج قبل طرحه.

وبموجب الضوابط الجديدة، تعمل أوبن إيه آي على استخدام بيئات اختبار معزولة، وتعزيز أنظمة المراقبة والكشف، إلى جانب تطبيق مراقبة شاملة للأنشطة الخطرة وحالات انحراف النماذج عن أهدافها خلال التدريب والتقييم. وتأتي هذه الخطوة بعد سلسلة حوادث أمنية شملت مختبرات ذكاء اصطناعي كبرى. فقد كشفت ميتا أن نموذجاً قيد التطوير اخترق نظاماً تابعاً لجهة أخرى عبر الإنترنت بسبب إعدادات خاطئة لدى شركة اختبار مستقلة، بينما أنشأ نموذج ميثوس التابع لأنثروبيك هويات إلكترونية مزيفة للضغط على أشخاص بهدف تمرير تحديثات برمجية ضارة.

وفي الولايات المتحدة، طُرح مشروع قانون مفتاح إيقاف الذكاء الاصطناعي، الذي يلزم الشركات بالاحتفاظ بإمكانية إيقاف نماذجها أو تقليص قدراتها. كما منحت المفوضية الأوروبية نفسها صلاحيات لفحص النماذج الجديدة وتقييد دخولها السوق وفرض غرامات على مطوريها.