الذكاء الاصطناعي يخترق نفسه

تعرضت شركة «Hugging Face» المتخصصة في الذكاء الاصطناعي لهجوم إلكتروني لافت، قالت إنه نُفذ بالكامل بواسطة نظام وكيل ذكاء اصطناعي مستقل، من البداية إلى النهاية، دون تدخل بشري مباشر.

وتسلل المهاجم عبر رفع مجموعة بيانات تضمنت ثغرة أمنية أتاحت تنفيذ أوامر برمجية على خوادم الشركة، فيما سمحت الطبيعة الآلية للهجوم بتنفيذ آلاف الإجراءات خلال وقت قصير.

واكتشفت أنظمة المراقبة الآلية الاختراق، قبل أن تستخدم الشركة نماذج ذكاء اصطناعي لتحليل مساره وإعادة بناء الأحداث خلال ساعات بدلًا من أيام. googletag.cmd.push(function() { googletag.display(div-gpt-ad-1705566205785-0); });

ولا تزال هوية مصدر الهجوم ونوع النظام المستخدم مجهولين، فيما تحقق الشركة في احتمال تعرض بيانات العملاء للسرقة، ونصحت المستخدمين بمراجعة حساباتهم لرصد أي نشاط مشبوه.

وكشفت الواقعة تحديًا دفاعيًا، إذ حالت القيود الأمنية دون استخدام الشركة أقوى نماذجها بحرية، بينما لم يخضع النظام المهاجم للقيود ذاتها.