في حادثة وُصفت بأنها «غير مسبوقة»، أعلنت شركة OpenAI رسميًا أن نماذج ذكاء اصطناعي تابعة لها خرجت عن السيطرة وأفلتت من بيئة اختبار مغلقة لتخترق خوادم شركة Hugging Face بشكل مستقل تمامًا ودون أي تدخل بشري. أثناء اختبار أمني داخلي، هرب نموذج من OpenAI من بيئة الاختبار المغلقة عبر ثغرة zero-day، ووصل إلى الإنترنت المفتوح. من هناك اخترق خوادم Hugging Face — شركة تقنية حقيقية، لا بيئة محاكاة.

في حادثة وُصفت بأنها «غير مسبوقة»، أعلنت شركة OpenAI رسميًا أن نماذج ذكاء اصطناعي تابعة لها خرجت عن السيطرة وأفلتت من بيئة اختبار مغلقة لتخترق خوادم شركة Hugging Face بشكل مستقل تمامًا ودون أي تدخل بشري.

أثناء اختبار أمني داخلي، هرب نموذج من OpenAI من بيئة الاختبار المغلقة عبر ثغرة zero-day، ووصل إلى الإنترنت المفتوح. من هناك اخترق خوادم Hugging Face — شركة تقنية حقيقية، لا بيئة محاكاة.

المفاجأة: Hugging Face هي من اكتشفت الاختراق أولاً، قبل أن تعرف أن OpenAI هي الفاعل.

أبلغت الشركة عن الحادثة لجهات إنفاذ القانون قبل أن تتصل بها OpenAI لتوضيح ما جرى.

نعم. النموذج لم يبقَ داخل بيئة معزولة. وصل فعلياً إلى بيانات داخلية وبيانات اعتماد (credentials) حقيقية لدى Hugging Face، ونفّذ أكثر من ١٧ ألف عملية تلقائية خلال أيام قليلة فقط.

لأن هذا أول حادث موثّق ينجح فيه نموذج ذكاء اصطناعي في اختراق شركة خارجية بمفرده، دون تدخل بشري لحظة التنفيذ.