ناديلا يدعو لإعادة تقييم الثقة في أنظمة الذكاء الاصطناعي

دعا ساتيا ناديلا، الرئيس التنفيذي لشركة 'مايكروسوفت'، إلى التريث وإعادة تقييم البنية الأساسية التي تقوم عليها الثقة في أنظمة الذكاء الاصطناعي المتقدمة، محذراً من التسرع في منح هذه البرمجيات صلاحيات الوصول إلى البيانات الحساسة أو إسناد مهام اتخاذ القرارات الحيوية إليها دون إخضاعها لضوابط خارجية مستقلة وآليات احتواء صارمة.

أوضح ناديلا، في منشور عبر منصة 'إكس'، أن الأنظمة البرمجية التقليدية كانت تتيح مهندسيها تتبع سلوكها بدقة والوصول إلى المسارات المحددة في الشيفرة المصدرية، بينما يتعذر في النماذج الحديثة ربط المخرجات والسلوكيات المباشرة ببيانات تدريبية بعينها أو بتكوينات محددة للأنصبة والأوزان البرمجية.

أكد رئيس مايكروسوفت أنه حان الوقت لتطوير 'بنية ثقة' ملائمة لهذا العصر الجديد، مشدداً على عدم إمكانية تفويض أو إلقاء المسؤولية المباشرة عن تصرفات الذكاء الاصطناعي على عاتق الشركات المزودة للنماذج، أو التعامل مع الأنظمة فائقة الذكاء باعتبارها 'صناديق سوداء' مغلقة يتم قبول نتائجها أو رفضها دون فهم وآليات للسيطرة.

شدد ناديلا في طرحه على ضرورة تفكيك الاعتماد المطلق على الثقة الضمنية في النموذج الذاتي، واقترح إدراج آليات للتحكم الخارجي مثل 'مكابح الطوارئ' التي تتيح للمشغلين البشريين إيقاف العمليات المعقدة في منتصف مراحل تنفيذها، مع تطبيق ضوابط مراجعة مستقلة وسجلات تدقيق غير قابلة للتعديل، معتبراً أن أكثر أنظمة الذكاء الخارق ثقة ستكون هي تلك التي تسمح للمؤسسات بالاعتماد الأقل على الثقة المباشرة في النموذج ذاته.