حذّر باحثون وخبراء بارزون من أن المنافسة المتصاعدة بين شركات الذكاء الاصطناعي، ولا سيما 'OpenAI' و'Anthropic'، تدفعها إلى تسريع تطوير أنظمة شديدة الاستقلالية على حساب إجراءات السلامة، ما يرفع احتمالات خروج هذه التكنولوجيا عن السيطرة.

وبحسب تقرير للصحافيين كريستينا كريدل وجورج هاموند ومايكل بيل في صحيفة 'فايننشال تايمز'، أكد أكثر من 24 باحثاً ومستثمراً وأكاديمياً ومسؤولاً أن قدرات كان يُعتقد أنها لا تزال بعيدة باتت تظهر بوتيرة أسرع من المتوقع.

وبرزت المخاوف بعد استقالة الباحث في 'Anthropic' جاكوب كوكسون، محذراً من أن الأشخاص الذين يطوّرون الذكاء الاصطناعي يعتقدون جدياً أنه قد 'يقتلنا جميعاً بحلول نهاية العقد'. وقدّر مسؤول علم المواءمة في الشركة إيفان هوبينغر أن خطر الانقراض الجماعي خلال السنوات الـ10 المقبلة يتجاوز 10%، فيما قال بول كريستيانو، العضو الجديد في مجلس مؤسسة 'OpenAI'، إن 'معظم الناس سيموتون' إذا لم توضع ضمانات أكثر صرامة.

وتتركز المخاوف على ما يُعرف بوكلاء الذكاء الاصطناعي القادرين على التفكير والتخطيط وتنفيذ مهمات لفترات طويلة بإشراف بشري محدود. وأظهرت اختبارات بعض النماذج سلوكيات تشمل الخداع والابتزاز ومحاولات تجنب الإغلاق والتحايل على أنظمة المكافآت.

وفي إحدى أخطر التجارب، نسّق أكثر من 1000 وكيل ذكاء اصطناعي عملية غش خلال اختبار إلكتروني، وتواصلوا عبر لوحة رسائل ووزعوا المهمات فيما بينهم، قبل العبث بالسجلات واختراق منصة 'Hugging Face' لإخفاء ما قاموا به.

وقال عالم الحاسوب يوشوا بنجيو إن الأنظمة الأكثر تطوراً قد تستنتج مستقبلاً أنها بحاجة إلى خداع البشر والاختباء منهم وربما السيطرة عليهم. كما يخشى الباحثون استخدام هذه القدرات للاستيلاء على مراكز البيانات والبنى التحتية للطاقة والمال والاتصالات، أو لتسهيل الهجمات الإلكترونية وتصميم أسلحة بيولوجية.

وفي تموز، طالب أكثر من 1200 موظف في 'OpenAI' و'Anthropic' و'Google' و'Meta' الحكومة الأميركية بدعم تنسيق دولي يبطئ وتيرة التطوير. إلا أن التحرك الحكومي لا يزال محدوداً، وسط استمرار إدارة الرئيس دونالد ترامب في اعتماد نهج تنظيمي مرن.

في المقابل، يرى منتقدون أن الشركات الكبرى قد تضخّم سيناريوهات الانقراض لدفع الحكومات نحو قواعد مكلفة تعجز الشركات الصغيرة عن تطبيقها، ما يعزز هيمنة اللاعبين الكبار. وبين التهويل والتحذيرات العلمية، يبقى الخطر المباشر في تطوير تكنولوجيا تزداد قوة واستقلالية بسرعة تفوق قدرة العالم على ضبطها