كشفت شركة إنفيديا Nvidia، عن خطوات جديدة لتعزيز أمان أنظمة الذكاء الاصطناعي، من خلال تطوير بنية تقنية تهدف إلى منع وكلاء الذكاء الاصطناعي من تنفيذ عمليات غير مصرح بها أو الخروج عن نطاق السيطرة، بالتزامن مع تعاونها مع شركة Agile Robots لتطوير تصميم مرجعي لروبوت بشري قادر على تنفيذ مجموعة واسعة من المهام.

وأعلنت إنفيديا عن بنية OpenShell Reference Architecture خلال فعاليات مؤتمر GTC Berlin في ألمانيا، الأربعاء، موضحة أنها تتيح للشركات بناء وكلاء الذكاء الاصطناعي وتشغيلهم ومراقبة سلوكهم، مع فرض قيود أمنية واضحة على المهام التي يمكنهم تنفيذها.

وتعتمد البنية الجديدة على توزيع المهام بين مكونات منصة إنفيديا Vera Rubin، إذ تتولى وحدات المعالجة الرسومية تشغيل نماذج الذكاء الاصطناعي، بينما تعمل برمجيات الوكلاء على معالجات Vera المركزية، وتتولى وحدات معالجة البيانات BlueField-4 مراقبة الأنشطة الأمنية ومنع أي محاولات لتنفيذ إجراءات غير مصرح بها.

وتقول إنفيديا إن النظام قادر على عزل الوكلاء الذين يحاولون تجاوز الصلاحيات المحددة لهم وإيقافهم خلال أجزاء من الثانية. 

وتعمل الشركة على إتاحة هذه البنية بالتعاون مع عدد من مزودي الخدمات السحابية، من بينهم CoreWeave وCrusoe وLambda وNebius وOracle Cloud Infrastructure.

وقال جنسن هوانج، الرئيس التنفيذي لإنفيديا، إن قدرات الذكاء الاصطناعي وأمانه يجب أن يتطورا بالتوازي، خاصة مع استعداد الشركات لنشر مليارات الوكلاء، مؤكدا ضرورة دمج آليات الحماية والتحكم في البنية الأساسية للحوسبة، بدلا من الاعتماد على إجراءات أمنية إضافية فقط.

ويأتي الإعلان في وقت تواجه فيه صناعة الذكاء الاصطناعي مخاوف متزايدة بشأن قدرة الوكلاء على تجاوز بيئات الاختبار الآمنة والوصول إلى الإنترنت، حيث كشفت تقارير سابقة عن حوادث مرتبطة بوكلاء طورتهم شركات ومختبرات بارزة، من بينها أنثروبيك وجوجل وميتا. 

ويرى خبراء أمنيون أن ضعف إجراءات الحماية في بعض بيئات الاختبار أسهم في وقوع هذه الحوادث.

بالتوازي مع جهود تأمين وكلاء الذكاء الاصطناعي، كشفت إنفيديا عن تعاونها مع Agile Robots لتطوير روبوت بشري مرجعي يحمل اسم Agile One SN، ويبلغ ارتفاعه نحو 1.4 متر، ويعتمد على منصة Nvidia Isaac GR00T للروبوتات، إلى جانب حاسوب Jetson Thor.

ويستهدف التصميم مساعدة المطورين على بناء أنظمة ذكاء اصطناعي قادرة على التحكم في الروبوتات وتنفيذ مهام متنوعة في بيئات العمل المختلفة.

وترى إنفيديا أن الذكاء الاصطناعي الفيزيائي، الذي يشمل الروبوتات البشرية والأذرع الآلية الصناعية والسيارات ذاتية القيادة، قد يحدث تحولا كبيرا في قطاعي التصنيع والخدمات اللوجستية، اللذين تقدر الشركة قيمتهما بنحو 50 تريليون دولار.

وأكد هوانج أن تطور الروبوتات متعددة الاستخدامات يتسارع بوتيرة استثنائية، معتبرا أن الصناعة تقترب من لحظة تحول كبرى مشابهة لما أحدثه ChatGPT في الذكاء الاصطناعي، في وقت تسعى فيه إنفيديا إلى ترسيخ مكانتها لاعبا رئيسيا في هذا السوق.