اختبار يكشف قدرات الذكاء الاصطناعي

أثار اختبار أجرته شركة «أوبن أيه آي» جدلًا واسعًا بعد أن تمكن أحد نماذجها المتخصصة في الأمن السيبراني من تنفيذ هجوم إلكتروني على منصة Hugging Face ضمن بيئة اختبار صُممت لقياس قدرات النموذج في اكتشاف الثغرات الأمنية واستغلالها.

ولم يكن الهجوم نتيجة خروج الذكاء الاصطناعي عن السيطرة، بل جاء ضمن سيناريو اختباري أُتيحت فيه للنموذج بيئة تحتوي على ثغرة حقيقية مع تخفيف بعض وسائل الحماية، ما مكنه من تنفيذ آلاف الإجراءات بسرعة وبأقل تدخل بشري.

وأظهرت التجربة أن النماذج الحديثة باتت قادرة على تحليل الأنظمة، واكتشاف مسارات هجوم معقدة، ورفع الصلاحيات والتنقل داخل البيئات الرقمية، وهي قدرات تستهدف «أوبن أيه آي» توظيفها في حماية المؤسسات من الهجمات الإلكترونية. googletag.cmd.push(function() { googletag.display(div-gpt-ad-1705566205785-0); });

وأثارت الواقعة انقسامًا بين الخبراء؛ إذ عدّها بعضهم دليلًا على التطور السريع لوكلاء الذكاء الاصطناعي، بينما رأى آخرون أن تصميم بيئة الاختبار، وليس النموذج نفسه، هو ما أتاح تنفيذ الهجوم.

وحذر خبراء أمن سيبراني من أن الاعتماد على البيئات المعزولة وحدها لم يعد كافيًا مع تطور هذه الأنظمة، مؤكدين ضرورة تطوير وسائل حماية أكثر تقدمًا، فيما أشارت تقارير ودراسات حديثة إلى أن استقلالية النماذج تمثل أحد أبرز التحديات المستقبلية في مجال الأمن السيبراني.