لم تعد المخاوف المرتبطة بوكلاء الذكاء الاصطناعي تدور فقط حول ما قد يستطيعون فعله مستقبلاً؛ فقد ظهرت حوادث خلال اختبارات، واستخدامات حديثة، من تجاوز قيود تقنية، إلى محاولات اختراق، وإرسال معلومات خاطئة إلى جهات رسمية، دفعت بعض أبرز قادة قطاع التكنولوجيا إلى التحذير من أن الوقت المتاح لبناء أنظمة حماية أكثر صرامة قد يضيق سريعاً، بحسب زهرة الخليج.

ويصف ديميس هاسابيس، المؤسس المشارك ورئيس مجلس إدارة «غوغل ديب مايند»، هذه الوقائع، بحسب تقرير لوكالة الأنباء العالمية «رويترز»، بأنها «إنذارات مبكرة»، معتبراً أن محدودية آثارها، حتى الآن، لا تعني أن الحوادث المقبلة ستظل عند المستوى نفسه مع ازدياد قدرة الأنظمة على تنفيذ المهام بصورة أكثر استقلالاً.

وجاء تحذير هاسابيس، خلال قمة دولية للذكاء الاصطناعي، أقيمت، مؤخراً، بالعاصمة الإيرلندية دبلن، في وقت تتزايد به الأسئلة حول سلوك ما يعرف بـ«وكلاء الذكاء الاصطناعي»، وهي أنظمة لا تكتفي بتقديم إجابة للمستخدم، بل تستطيع تنفيذ سلسلة من الخطوات، واستخدام أدوات، والتفاعل مع مواقع، وأنظمة رقمية لتحقيق مهمة محددة.

وهنا، تحديداً، تتغير طبيعة المخاطر؛ فالخطأ في إجابة يقدمها روبوت محادثة، يختلف عن خطأ يصدر عن نظام يمتلك القدرة على اتخاذ خطوات خارج نافذة المحادثة. وكلما ازدادت مساحة الحركة الممنوحة لهذه الأنظمة، أصبحت حدود الصلاحيات، وآليات التوقف، والمراقبة البشرية، واختبار السلوك قبل النشر، عناصر أكثر حساسية.

وأعادت شركة «أنثروبيك» هذا النقاش إلى الواجهة، عندما كشفت عن حالات تصرفت فيها نماذج، تابعة لها، بطرق لم تكن مقصودة خلال الاختبارات، والاستخدام الداخلي. ومن أكثرها إثارة للانتباه إرسال نموذج بلاغاً كاذباً يتعلق بجريمة قتل عبر موقع للشرطة، في حادثة سلطت الضوء على قدرة نظام آلي على الانتقال من معالجة المعلومات إلى اتخاذ إجراء خارجي غير مطلوب.

ورغم أن مثل هذه الوقائع لم تتحول إلى كوارث واسعة، إلا أن هاسابيس يرى أنها تكشف نقاط ضعف، ينبغي التعامل معها قبل أن تصبح الأنظمة أكثر قوة، وقال: «إن القطاع لا يزال أمامه الكثير من العمل؛ للوصول إلى مستوى الحماية، الذي تحتاج إليه هذه التكنولوجيا»، داعياً إلى الاستفادة من خبرات مجالات اعتادت التعامل مع مخاطر عالية، مثل العلوم البيولوجية والقطاع النووي، حيث لا تعتمد السلامة على إجراء واحد، وإنما على طبقات من الاختبارات، والضوابط، والبروتوكولات. فالرهان، وفق هذا التصور، ليس على أن يتصرف النموذج بالطريقة الصحيحة في معظم الحالات، بل على ما يحدث عندما يفشل.

ومن هنا، طرح هاسابيس الحاجة، في نهاية المطاف، إلى جهة دولية تضع معايير مشتركة لسلامة الأنظمة المتقدمة، لكنه حذر، في الوقت نفسه، من بناء جهاز رقابي بطيء، لا يستطيع مجاراة سرعة تطور التكنولوجيا، مشدداً على أن أي إطار من هذا النوع يجب أن يكون مرناً، وقادراً على تعديل متطلباته مع تغير طبيعة المخاطر.