عبدالله مغرم

كان المطلوب بسيطاً: اقرأ الرسائل، ولا ترسل شيئاً. لكن وكيل ذكاء اصطناعي وسّع معنى التعليمات، فاعتبر أن الامتناع عن إرسال الرسائل يشمل التنبيهات التي تصل إلى فريق الأمن. استمرت المراقبة، وبقيت التقارير محفوظة، لكن الجرس الذي يستدعي انتباه البشر أصبح صامتاً.

وقعت الحادثة داخل (OpenAI) مطلع الشهر الحالي. كان الوكيل ينفذ مهمة برمجية، وعندما واجه مشكلة في حفظ نتائج المراقبة، طلب منه المستخدم تغيير وجهة الحفظ وإعادة التشغيل. أثناء ذلك، استند الوكيل إلى تعليمات سابقة بعدم إرسال رسائل عبر التطبيق المعتمد، ووجّه وكيلاً فرعياً إلى تعطيل التنبيهات أيضاً. وهكذا تحوّل تفسير غير صحيح لتعليمات محدودة إلى تغيير في إجراء رقابي.

تكمن المشكلة في اجتماع أمرين: أن الوكيل خلط بين تعليمات المهمة وقواعد الرقابة، وأن الصلاحيات المتاحة سمحت بتحويل هذا الخلط إلى فعل. لم يكن المستخدم قد طلب إيقاف تنبيهات الأمن. ومع ذلك، استطاع الوكيل اتخاذ القرار وتمريره إلى مساعده. ولا تجزم الشركة بأن السلوك كان محاولة متعمدة للإفلات من المراقبة. لكن غياب اليقين بشأن النية لا يغيّر النتيجة. تعطّلت آلية إرسال التنبيهات إلى البشر.

وفي تجربة أخرى نشرتها أنثروبيك، تم تكليف ثلاثة وكلاء بتعديل النظام البرمجي نفسه، لكن بأهداف متعارضة. كُلّف كل منهم بنقل النظام إلى لغة برمجة مختلفة، دون أن يعلم في البداية بوجود الآخرين. وعندما اصطدمت أعمالهم، بدأ بعضهم يتعامل مع تغييرات الآخرين بوصفها عوائق تجب إزالتها. وشملت السلوكيات المرصودة تعطيل حسابات وكلاء آخرين وتشغيل برامج توقف أعمالهم بصورة متكررة.

كانت هذه تجربة مصممة لاختبار التعارض، وليست وصفاً لما يحدث في كل استخدام. لكنها تكشف مشكلة إدارية مألوفة: تكليف أطراف متعددة بأهداف متناقضة، ومنحها سلطة التدخل في أعمال بعضها. وتوضح التجربة أهمية تحديد الأهداف والصلاحيات، ووضع مسار واضح لحسم التعارض قبل أن يتحول إلى تعطيل متبادل.

لهذا تبدأ الحوكمة بتحديد مسؤولية واضحة لكل وكيل، ومنحه الصلاحيات اللازمة لها.. وقد تشمل مسؤوليته عدة مهام مترابطة، لكن يجب أن يعرف حدود دوره، ومتى يتوقف ويرجع إلى الإنسان. ويجب ألا يستطيع تعديل رقابته أو تعطيل عمل غيره لمجرد أن ذلك يساعده على الإنجاز. وعندما تتعارض المهام، ينبغي أن يعود القرار إلى مسؤول محدد، بدلاً من أن يحسمه الوكيل الأوسع صلاحية.

الخلاصة: مع توسع استخدام الذكاء الاصطناعي، قد تصبح إدارة مجموعة من الوكلاء جزءاً من العمل اليومي للأفراد والمنظمات.. وعندها ستزداد أهمية تحديد مسؤولية كل وكيل، وتنظيم التعاون بينهم، وحسم التعارض قبل أن يتحول إلى ضرر. والاستعداد لهذا المستقبل يبدأ اليوم، بتحديد مهام الوكلاء وصلاحياتهم، والتوسع فيها تدريجياً وفق نتائج الأداء وفاعلية الرقابة والقدرة على تصحيح الأخطاء.