حذرت شركة مايكروسوفت الشركات من الاعتماد على نماذج الذكاء الاصطناعي المتقدمة لمراقبة سلوكها وضمان أمنها، مشيرة إلى أن منح الوكلاء الذكيين صلاحيات واسعة للوصول إلى قواعد البيانات والأنظمة الداخلية قد يخلق مخاطر أمنية كبيرة، حتى في غياب أي نية متعمدة للإضرار بالأنظمة.

ومع توسع الشركات في استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بصورة مستقلة، تعمل مايكروسوفت على تطوير أدوات رقابية جديدة لمتابعة سلوك هذه الوكلاء، ورصد التصرفات غير المعتادة، والتدخل قبل أن تؤدي إلى أضرار.

صلاحيات واسعة وأخطاء غير متوقعة

وأوضح نائب رئيس مايكروسوفت، نديم عبدو، في تحديث رسمي للشركة، أن وكلاء الذكاء الاصطناعي لا يتصرفون عادة بدافع الإضرار بالأنظمة، لكن طبيعتهم غير المتوقعة قد تجعل الأخطاء التي يرتكبونها خطيرة، خصوصًا عندما يمتلكون صلاحيات واسعة داخل بيئات العمل، بحسب تقرير نشره موقع 'Android Headlines'.

وتسلط هذه المخاوف الضوء على التحديات الأمنية المصاحبة لتوسيع نطاق استقلالية الوكلاء الذكيين، إذ إن غياب النية الضارة لا يمنع وقوع أخطاء قد تؤثر في الأنظمة والبيانات التي يُسمح لهم بالوصول إليها.

مايكروسوفت تدعو إلى فصل الذكاء الاصطناعي عن أنظمة الرقابة

وتتفق هذه المخاوف مع ما أكده الرئيس التنفيذي للشركة، ساتيا ناديلا، بشأن ضرورة الفصل بين قدرات الذكاء الاصطناعي نفسها وأنظمة الأمن المسؤولة عن مراقبتها والتحكم فيها.

ويعني هذا التوجه أن الشركات لا ينبغي أن تجعل مختبر الذكاء الاصطناعي الذي طور نموذجًا معينًا الجهة الوحيدة المسؤولة عن مراقبة سلوكه والتحقق من التزامه بقواعد الأمان، بل تحتاج إلى آليات رقابية مستقلة.

طبقة أمنية مستقلة لمراقبة الوكلاء

وتسعى مايكروسوفت إلى إنشاء طبقة أمنية منفصلة تتولى مراقبة الوكلاء الذكيين والتحكم في الصلاحيات الممنوحة لهم، بدلًا من افتراض أن تطور قدرات النماذج كافٍ لمنع الأخطاء أو التجاوزات.

ويستهدف هذا النهج تعزيز الرقابة على الأنظمة الذكية أثناء تنفيذ المهام، مع إتاحة التدخل عند رصد سلوك غير معتاد، بما يقلل المخاطر المحتملة الناجمة عن منح الوكلاء استقلالية واسعة داخل بيئات العمل.