مباشر- كشف معهد أمن الذكاء الاصطناعي البريطاني (AISI)، أمس الثلاثاء، أن أحد وكلاء الذكاء الاصطناعي أنشأ هويات إلكترونية مزيفة في محاولة للحصول على وصول غير مصرح به إلى أنظمة آمنة، وذلك خلال اختبارات أجريت على نماذج طورتها شركتا 'أوبن إيه آي' و'أنثروبيك'، والتي كشفت عن سلسلة من الاختراقات الجديدة، بحسب 'رويترز'.

وأوضح المعهد أن وكلاء ذكاء اصطناعي يعملون بنموذجي 'مايثوس 5' من شركة 'أنثروبيك' و'جيه بي تي 5.6 سول' من 'أوبن إيه آي' نفذوا إجراءات غير مصرح بها أثناء تقييمات أمنية أجراها المعهد لقياس قدرات هذه النماذج.

وقال المعهد في تدوينة: 'بعض الوكلاء الذين خضعوا للاختبار انخرطوا في أنشطة مستمرة قد تكون ضارة، واستهدفت أشخاصًا ومؤسسات حقيقية'.

ويسلط التقرير الضوء على ضعف الضوابط المحيطة باختبارات وكلاء الذكاء الاصطناعي، في وقت تروج فيه شركات التكنولوجيا لهذه الوكلاء باعتبارها مستقبل الأعمال.

ويحصل المعهد، بموجب اتفاقيات طوعية مع كبرى شركات تطوير الذكاء الاصطناعي، على إمكانية الوصول إلى النماذج المتقدمة لإخضاعها لاختبارات أمنية، وخلال التقييم، وضع الوكلاء في سيناريو افتراضي للأمن السيبراني لاختبار قدراتهم.

وأجرى المعهد 122 تجربة، ورصد 19 إجراءً غير مصرح به خلال 10 جولات اختبار، وكان وكيل 'أنثروبيك' مسؤولًا عن 17 من هذه الإجراءات، بينما ارتكب وكيل 'أوبن إيه آي' الإجراءين الآخرين.

وأوضح المعهد أن أخطر تلك الحوادث تمثلت في قيام أحد الوكلاء بكتابة شيفرة برمجية خبيثة وإنشاء هويات إلكترونية مزيفة في محاولة لإقناع شخص بالموافقة على تشغيلها، مؤكدًا أنه لم يتم رصد أي أضرار فعلية في العالم الحقيقي نتيجة لهذه الحوادث.

ورغم أن المعهد لم يحدد الوكيل المسؤول عن إنشاء الهويات المزيفة، أكدت 'أنثروبيك' أن وكيلها هو من نفذ ذلك.

وقالت الشركة في بيان: 'نحن ممتنون لمعهد أمن الذكاء الاصطناعي البريطاني على دوره القيادي في هذا الحادث، الذي يبرز الحاجة إلى نقاش أوسع حول كيفية تقييم وكلاء الذكاء الاصطناعي المتزايدة قدراتهم بصورة آمنة'.

وأضافت أنها تعمل مع المعهد للحصول على مزيد من التفاصيل وإجراء تحقيقها الخاص.

من جانبه، قال الباحث أندرو يون من مؤسسة 'سيف إيه آي' غير الربحية في كاليفورنيا، والمتخصصة في دراسة قدرات ومخاطر الذكاء الاصطناعي، إن لجوء نموذج 'مايثوس' إلى هذا النوع من السلوك الخادع، مع إدراكه الظاهر أنه يستهدف شخصًا حقيقيًا، يشير إلى أن أنثروبيك لا تسيطر على نماذجها بالقدر الذي تعتقده.

كما نشرت 'أوبن إيه آي' تفاصيل الحادث في تدوينة على موقعها، موضحة أن الإجراءين غير المصرح بهما اللذين ارتكبهما وكيلها تمثلا في الوصول إلى الإنترنت بطرق كانت محظورة وفق تعليمات الاختبار.

وأكدت الشركة التزامها بالتعاون مع باقي القطاع لتعزيز الممارسات المشتركة لإجراء التقييمات عالية المخاطر بصورة آمنة، بما يشمل التنسيق مع معاهد الذكاء الاصطناعي الوطنية، والجهات المستقلة المختصة بالتقييم، ومختبرات الذكاء الاصطناعي الأخرى.

وكشفت 'أوبن إيه آي' أيضًا عن حادث منفصل نجم عن خطأ في إعدادات شركة 'إيرجولار'، وهي جهة خارجية متخصصة في الاختبارات، ما سمح لوكلائها بالاتصال بالإنترنت عن طريق الخطأ، في واقعة مشابهة لما أعلنت عنه 'أنثروبيك' الأسبوع الماضي.

وكانت 'رويترز' قد أفادت الأسبوع الماضي بأن 'أوبن إيه آي' وسعت تحقيقاتها في حوادث اختراق وكلاء الذكاء الاصطناعي بعد العثور على أدلة تشير إلى حالات إضافية.

وأشار المعهد إلى أن الوكلاء المشاركين في هذه التقييمات لم يخترقوا بيئة الاختبار المعزولة للوصول إلى الإنترنت، كما حدث في اختراق شركة 'هاجينج فيس' خلال يوليو، بل إن الوصول إلى الإنترنت كان مسموحًا به ضمن إجراءات الاختبار القياسية التي يعتمدها المعهد.