أوقفت شركة «أوبن إيه آي»، المبتكرة لبرنامج «تشات جي بي تي»، العمل المتعلق بأكثر نماذج الذكاء الاصطناعي لديها قدرة بعد أن تجاوز أحد أنظمتها قيود الإنترنت وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات.

وقالت أوبن إيه آي في منشور على مدونتها إنه لم يكن من المفترض أن يتمكن النموذج من الوصول إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط شبكة بيئة الاختبار ناتجة عن تصفية غير كافية لنظام أسماء النطاقات «دي إن إس» واستغلها.

ومن المقرر أن تظل عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات متوقفة مؤقتا حتى تتأكد الشركة من إغلاق الثغرة وإجراء المزيد من اختبارات السلامة.

وقالت أوبن إيه آي إن الحادث كان أقل خطورة من بعض الحالات السابقة، ولكنه يعد الأول منذ تشديد حواجز الحماية في أعقاب حادث اختراق سابق كان يتضمن منصة الذكاء الاصطناعي «هاجينج فيس».

وخلال الاختبار، طلِب من النموذج تحديد هوية شخص كتب منشورا على مدونة باستخدام سلسلة من الأدلة. وبعد أن فشل في العثور على الإجابة في بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام محلل نظام أسماء النطاقات الخاص بالنظام لإرسال استعلامات إلى روبوت محادثة على شبكة الإنترنت المفتوحة.

وأوقفت أوبن إيه آي الاختبار بعد اكتشاف عملية الاتصال،ويأتي هذا الحادث في أعقاب عدة حالات أخرى شملت أنظمة أوبن إيه آي.

وفي إحدى الحالات، وضع برنامج ذكاء اصطناعي 53 صورة حملها المستخدمون على منصات عبر الإنترنت، وقالت أوبن إيه آي إن الروابط لم تكن عامة وإن معظم الصور قد أزيلت منذ ذلك الحين.

كما تفاعل وكلاء أوبن إيه آي بشكل غير متوقع مع العديد من المواقع الإلكترونية الحكومية الأمريكية، بما في ذلك الوصول إلى معلومات متاحة للجمهور أو نسخها.

وقالت الشركة إنها أخطرت «عشرات» المنظمات التي تم التفاعل مع مواقعها الإلكترونية بطرق غير مقصودة بواسطة برمجياتها.

وكانت الحالة الأكثر إثارة للجدل حتى الآن تتضمن خروج نظام تابع لأوبن إيه آي من بيئة اختبار مؤمنة وحصوله على وصول غير مقصود إلى أجهزة كمبيوتر مملوكة لمنصة «هاجينج فيس».