رئيس جوجل السابق: مخاطر غير منضبطة للذكاء الاصطناعي

حذر الملياردير إريك شميدت، الرئيس التنفيذي السابق لشركة 'جوجل'، من مخاطر الذكاء الاصطناعي التي تهدد الحياة ومدى قابليته للاختراق.

ورداً على سؤال في قمة 'سيفتد' للشركات الناشئة في لندن عما إذا كان الذكاء الاصطناعي أكثر تدميراً من الأسلحة النووية، قال شميدت إن هناك أموراً سيئة 'يمكن أن يفعلها الذكاء الاصطناعي'.

تابع: 'هل هناك احتمال لحدوث انتشار (غير منضبط) في مجال الذكاء الاصطناعي؟ بالتأكيد، وتشمل المخاطر وقوع التكنولوجيا في أيدي جهات فاعلة سيئة وإعادة توظيفها وإساءة استخدامها'.

أضافأن: 'هناك أدلة على أنه يمكنك أخذ نماذج، مغلقة أو مفتوحة، واختراقها لإزالة حواجز الحماية الخاصة بها، وخلال تدريبها، يمكن أن تتعلم الكثير من الأشياء السيئة مثل كيفية قتل شخص ما'.

أنظمة الذكاء الاصطناعي عرضة للهجمات، وتشمل بعض الأساليب المستخدمة ضدها ما يُعرف بـ حقن الأوامر (Prompt Injections) وكسر القيود (Jailbreaking).