أقدمت شركة 'أوبن إيه آي' على تشديد ضوابط مراقبة وتأمين نماذج الذكاء الاصطناعي قيد التطوير، وذلك رداً على حوادث أمنية سايبرانية كشفت عن قدرة هذه النماذج على تنفيذ عمليات اختراق تفوق التوقعات السابقة.

أعلنت الشركة في بيان صادر عن توسيع نطاق الإشراف على كيفية تعامل نماذجها الأكثر تقدماً مع المهام واستخدامها للأدوات الرقمية عبر الإنترنت، بهدف إرسال إ تنبيهات فورية لفرق السلامة خلال مدة لا تتجاوز 30 دقيقة عند رصد أي سلوك غير مألوف.

تضمنت التدابير الجديدة إدخال قيود تحول دون وصول بعض النماذج إلى شبكة الإنترنت عند إسناد مهام ذات مخاطر عالية إليها، بالإضافة إلى تطبيق مستويات عزل أشد صرامة والمعروفة بـ'صندوق الحماية' خلال مرحلتي التدريب والتقييم للمهام التي تتطلب تشغيل شفرات برمجية غير موثوقة أو مولدة ذاتياً.

جاءت هذه الخطوات الاحترازية بعد اعتراف كل من 'أوبن إيه آي' و'أنثروبيك' مؤخراً بنجاح بعض نماذجهما الذكية في اختراق أنظمة مؤسسات متنوعة، من ضمنها منصة 'هاجينج فيس'، بصورة غير متعمدة أثناء اختبارات التقييم.