"إنفيديا" تطلق أدوات برمجية لمنع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة

عمون - أعلنت شركة إنفيديا، يوم الاثنين، إتاحة أدوات أمان برمجية لوكلاء الذكاء الاصطناعي، وقالت إنها كانت ستمنع اختراق 'هاغينغ فيس'، منصة البرمجة بالذكاء الاصطناعي التي دفعت إنفيديا 13 مليار دولار للاستحواذ عليها بعد أشهر من تعرضها لهجوم من وكلاء خارجين عن السيطرة تابعين لشركة أوبن إيه آي.

وتأتي هذه الخطوة في وقت تحقق فيه 'أوبن إيه آي' و'أنثروبيك'، أكبر مختبرين أميركيين للذكاء الاصطناعي، في حالات عديدة اخترق فيها وكلاؤهما، وهي أنظمة ذكاء اصطناعي قادرة على تنفيذ مهام معقدة بشكل مستقل، مواقع وأنظمة تجارية وحكومية.

وكان الرئيس التنفيذي لإنفيديا جينسن هوانغ، الذي يقود أكبر شركة في العالم من حيث القيمة والتي تقف رقائقها خلف معظم طفرة الذكاء الاصطناعي، قد رفض الدعوات إلى فرض لوائح تنظيمية واسعة النطاق لسلامة الذكاء الاصطناعي، واعتبر بدلًا من ذلك أن خروج وكلاء الذكاء الاصطناعي عن السيطرة مشكلة هندسية يجب حلها، على غرار جعل السيارات أكثر أمانًا.

وتستخدم إحدى الأدوات التي طُرحت يوم الاثنين، وتسمى 'OpenShell'، ميزات عتادية في وحدات المعالجة المركزية من 'إنفيديا' لاحتواء الوكلاء. وقالت 'إنفيديا' إنها تعمل أيضًا مع 'آرم هولدينغز' و'إنتل' لضمان عمل النظام على معالجاتهما المركزية كذلك، بحسب ما أوردته 'رويترز'.

وتطلق 'إنفيديا' هذه الأدوات مع عشرات الشركاء، من بينهم 'أنثروبيك'.

وقال جاستن بويتانو، نائب الرئيس والمدير العام للحوسبة المؤسسية في 'إنفيديا'، إن الأدوات كانت ستمنع هجوم 'هاغينغ فيس' الذي كُشف عنه هذا الصيف.

وقال بويتانو خلال إحاطة إعلامية: 'بحسب ما نعرفه، كان بإمكان منصة الأمان الجديدة هذه أن تمنع الاختراق لو كانت مستخدمة في المختبرات الرائدة لتقييم النماذج في وقت مبكر'، مضيفًا: 'نحن نطور هذا بشكل مفتوح، ونريد أن يشارك الجميع في العمل معنا'.

أما النظام الآخر، ويسمى 'Sentry'، فيستخدم رقاقة منفصلة من 'إنفيديا' بالتزامن مع 'OpenShell' لقطع الاتصال عن أي وكيل مارق إذا حاول الهروب من البيئة الخاصة به على المعالج المركزي.

وتستخدم أدوات 'إنفيديا' معادلات رياضية لرصد محاولات الوكلاء الالتفاف على القيود، كأن يقوم وكيل ما بـ'توليد' عدة وكلاء فرعيين في محاولة للتحايل على الجهود المبذولة لحجب الوكيل الرئيسي، بحسب علي غولشان، المدير الأول لبرمجيات الذكاء الاصطناعي في 'إنفيديا'.

وقال غولشان خلال إحاطة: 'ما نتحدث عنه هنا هو سلوك وكيلي بامتياز، أي أساطيل من الوكلاء وكيف تعمل معًا'، في إشارة إلى قدرة الوكلاء على التصرف بشكل مستقل لتحقيق أهدافهم.

العربية