كشفت OpenAI عن حالات تجاوز فيها وكلاء الذكاء الاصطناعي التابعون لها المسارات المتوقعة أثناء تنفيذ مهام البحث وجمع المعلومات، ووصلوا بصورة غير ملائمة إلى مواقع وأنظمة تابعة لعشرات المؤسسات حول العالم، بينها جهات حكومية وجامعات وهيئات عامة، ما دفع الشركة إلى إخطار المؤسسات المتأثرة وفتح مراجعة موسعة لسلوك أنظمتها.

وبحسب ما نقلته وكالة رويترز عن إفصاحات الشركة، لم تبدأ الوقائع باعتبارها عمليات اختراق متعمدة، بل خلال مهام طُلب فيها من الوكلاء العثور على مصادر موثوقة للمعلومات العامة، إلا أن بعض الأنظمة اتخذت خطوات لم تكن مقصودة للوصول إلى المعلومات، بينها استخدام أدوات مخصصة للمطورين وتجاوز بعض القيود المفروضة على المواقع.

وشملت الجهات التي تعاملت معها الأنظمة مواقع حكومية أمريكية، بينها هيئة الأوراق المالية والبورصات ومكتب الإحصاء، فيما أخطرت OpenAI عشرات المؤسسات الأخرى حول العالم. وأكدت الشركة أن كثيرًا من البيانات الحكومية التي وصلت إليها الأنظمة كانت متاحة للعامة، وأن معظم الحالات التي حددتها حتى الآن منخفضة الخطورة، مع أدلة محدودة أو معدومة على حدوث تأثير جوهري. googletag.cmd.push(function() { googletag.display(div-gpt-ad-1705566205785-0); });

وكشفت المراجعة أيضًا جانبًا يتعلق ببيانات مستخدمي ChatGPT، إذ رصدت الشركة 53 واقعة على الأقل نقل فيها أحد الوكلاء صورة مرتبطة بنشاط مستخدم إلى طرف ثالث. ورغم موافقة المستخدمين المعنيين على استخدام بياناتهم في تدريب النماذج، أقرت OpenAI بأن نقل الصور بهذه الطريقة لم يكن استخدامًا مناسبًا للبيانات، مؤكدة العمل على معالجة الحالات وإزالة الصور المنقولة.

وتسلط الوقائع الضوء على تحدٍ يتجاوز مفهوم الاختراق الإلكتروني التقليدي إلى قدرة الوكلاء المستقلين على اختيار وسائل غير متوقعة أو غير مناسبة لإتمام المهمة المطلوبة. وأوضحت OpenAI أن مراجعة جميع الحالات ستستغرق أشهرًا، مع استمرار التحقق من الوقائع وإخطار المؤسسات المعنية كلما ظهرت حالات إضافية.