قالت شركة «أوبن إيه آي» إنها أوقفت تدريب أحدث نماذجها للذكاء الاصطناعي مؤقتاً، في وقت تزداد فيه التقارير عن خروج وكلاء الذكاء الاصطناعي عن السيطرة.

وجاء قرار وقف التطوير بعد ساعات فقط من إفصاح الشركة، أمس (الجمعة)، عن أنها تراجع حوادث عدة وقعت خلال الصيف، تصرَّف فيها وكلاء تابعون لـ«أوبن إيه آي» في أثناء بحثهم في مواقع إلكترونية للحكومة الفيدرالية بطرق غير متوقعة تجاوزت ما طُلب منهم، خلال جمع المعلومات وتوزيعها.

وبشكل منفصل، قالت شركة «ترانسلويس» المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن وكلاء بدا أنهم تابعون لـ«أوبن إيه آي» حاولوا، دون نجاح، اختراق موقع إلكتروني لوزارة التعليم الأميركية، وهي واقعة لم تؤكدها «أوبن إيه آي»، حسبما أفاد تقرير لوكالة «أسوشييتد برس».

وقالت «أوبن إيه آي»، في بيان، إنها ستستأنف التدريب «فقط عندما نكون واثقين من وجود إجراءات حماية إضافية»، مضيفة أنها تتوقع أن تضطر إلى «التوقف مؤقتاً» مرة أخرى مع تطور الذكاء الاصطناعي وظهور مشكلات أخرى.

وتواجه مختبرات الذكاء الاصطناعي ضغوطاً من المشرعين وخبراء التكنولوجيا لإبطاء وتيرة التطوير، حتى تتمكَّن من وضع ضوابط تمنع الوكلاء من التصرُّف من تلقاء أنفسهم، واختراق المواقع الإلكترونية، والكشف عن معلومات غير متاحة للعامة. كما دعا رئيسا «أوبن إيه آي» ومنافستها «أنثروبيك» إلى إبطاء التطوير.

وهذه المرة الثانية خلال 3 أشهر التي توقف فيها «أوبن إيه آي» تطوير نماذجها. وكانت المرة الأولى في يوليو (تموز)، بعد الكشف عن هجوم إلكتروني استهدف شركة «هاغينغ فيس» الناشئة في مجال الذكاء الاصطناعي، في حادثة أثارت مخاوف من أن الصناعة بدأت تفقد السيطرة.

وخلال اجتماع مع الرئيس الصيني شي جينبينغ، هذا الأسبوع، وافق الرئيس الأميركي دونالد ترمب على تبادل المعلومات بشأن مخاطر الذكاء الاصطناعي وتنسيق الجهود للحفاظ على سلامته. لكن ترمب يرى أن المخاوف من الذكاء الاصطناعي مبالغ فيها، وأشار لاحقاً إلى أنه لا يعتزم اتخاذ إجراءات صارمة من جانبه.

وقال ترمب للصحافيين خارج البيت الأبيض: «لن نضع فرامل». وأضاف: «إنهم يريدون وقف تقدمنا لأننا نتفوق على الصين بفارق كبير، وسنحافظ على ذلك».

ولم تبدُ الحوادث الأخيرة التي تورطت فيها «أوبن إيه آي» متضمنة الكشف عن أي معلومات غير متاحة للعامة، لكنها كانت مثيرة للقلق بما يكفي لدفع الشركة إلى تحذير الوكالات الفيدرالية المعنية.

وفي حادثة وزارة التعليم، عثر وكلاء «أوبن إيه آي» على «مفاتيح مطورين (developer keys)» تتيح الوصول إلى بيانات حكومية عبر واجهة برمجة التطبيقات (API)، لكنهم جمعوا في النهاية معلومات متاحة للعامة فقط.

وفي حالة أخرى تتعلق بلجنة الأوراق المالية والبورصات الأميركية (SEC)، عثر الوكلاء على معلومات متاحة للجميع، لكنهم نشروا هذه المعلومات لاحقاً في مكان آخر على الإنترنت، وهو تصرف تجاوز ما طُلب منهم القيام به.

وقال المتحدث باسم لجنة الأوراق المالية والبورصات، كيرت هوبفنسبرغر، السبت، إنه «لم يتم الوصول إلى أي معلومات غير متاحة للعامة».

وقالت وزارة التعليم في وقت سابق إنها لم تجد «أي دليل على حدوث تأثير في موقعها الإلكتروني أو قواعد بياناتها».

وكشفت شركات عدة أخرى للذكاء الاصطناعي عن حوادث خرجت فيها نماذجها عن السيطرة، بل وتمكنت من اختراق مواقع إلكترونية.

وقال الرئيس التنفيذي لـ«أوبن إيه آي»، سام ألتمان، في منشور على وسائل التواصل الاجتماعي، الجمعة، إن حادثة «هاغينغ فيس… لا تزال أخطر حادثة شهدناها».

وسبق أن نشرت «أوبن إيه آي» 6 تقارير أخرى عن سلوكيات «غير متوقعة أو مثيرة للقلق» في نماذج الذكاء الاصطناعي، وأطلقت إطاراً لتتبع هذه الحالات وفحصها والإفصاح عنها.