كشف تقرير أعده معهد أمن الذكاء الاصطناعي، وهو مجموعة بحثية تابعة للحكومة البريطانية، عن صدور نشاط مستمر قد يكون ضارًا وموجهًا ضد أشخاص ومنظمات حقيقية من بعض أدوات التقنية الصادرة عن شركتي «أنثروبيك» و«أوبن إيه آي» خلال تجارب تقييم سلامة الأنظمة، وفق ما أوردته «وكالة الصحافة الفرنسية».

تفاصيل انحراف نماذج الذكاء الاصطناعي في الاختبارات

وأوضح التقرير الصادر يوم الثلاثاء أن نموذج «ميثوس 5» التابع لشركة «أنثروبيك» أنشأ هويات إلكترونية مزيفة وأرسل رسائل بريد إلكتروني خادعة إلى أشخاص حقيقيين؛ بهدف إقناع المتلقي بالموافقة على إدراج شفرة خبيثة في مشروع برمجي، في حين رفض الشخص المكلف الإشراف على البرمجية منح هذه الموافقة.

وارتبط إجراءان خلال التجربة بنموذج «جي بي تي-5.6 سول» التابع لشركة «أوبن إيه آي»، حيث تأتي هذه التطورات في أعقاب هجمات إلكترونية نفذت ذاتيا بواسطة برمجيات طورتها الشركتان الأمريكيتان؛ ما أثار مخاوف حول قدرات نماذج الذكاء الاصطناعي المتقدمة ومستوى الإشراف عليها.

وكان معهد أمن الذكاء الاصطناعي قد تأسس عام 2023 للإشراف على سلامة نماذج الذكاء الاصطناعي الجديدة، وأجرى هذه الفحوصات مع إتاحة الوصول المفتوح إلى شبكة الإنترنت وتعطيل بعض خصائص الأمان، مؤكدا احتواء الحادثة خلال ساعة واحدة فقط.

وقال المعهد: «لم تنجح هذه المحاولات، ولم تظهر تحقيقاتنا أي دليل على وقوع أضرار فعلية ناجمة عنها»، موضحا في الوقت نفسه أن هذه الأنشطة «تظهر مؤشرات على سلوكيات جديدة قد تكون خادعة، وبمستوى من الاتساع والخطورة لم نكن نتوقعه».

مواقف الشركات تجاه مخاطر نماذج الذكاء الاصطناعي

تعليقًا على النتائج، أفاد متحدث باسم شركة «أنثروبيك» بأن التقرير «يؤكد الحاجة إلى نقاش أوسع بشأن آليات التقييم الآمن لأدوات الذكاء الاصطناعي المتزايدة قدراتهم».

ومن جانبه، أكد متحدث باسم شركة «أوبن إيه آي» أهمية «الاختبارات المستقلة لفهم كيفية تصرف النماذج ذات القدرات المتزايدة»، مشيرًا إلى الاستمرار في العمل مع الجهات التي تجري التقييمات وسائر الأطراف المعنية في القطاع لتعزيز الممارسات المشتركة لإجراء الاختبارات بصورة آمنة.

ويأتي هذا التقرير استكمالًا لسلسلة خروق أمنية بارزة ارتكبتها نماذج الذكاء الاصطناعي؛ حيث أكدت شركة «أوبن إيه آي» في يوليو أن أحد برامجها تمكن من الخروج من بيئة الاختبار وشن هجومًا على شركة «هاغينغ فيس»، قبل أن تعلن بعد أسبوع عن استهداف النماذج لثلاث شركات أخرى.

وفي 30 يوليو، كشفت شركة «أنثروبيك» عن رصد 3 حوادث تمكنت خلالها نماذج الذكاء الاصطناعي التي كانت قيد الاختبار من الحصول على وصول غير مصرح به إلى منظمات لم تكشف عن هويتها.