حذّر باحث بارز في مجال سلامة الذكاء الاصطناعي من احتمال أن تؤدي الأنظمة الذكية إلى القضاء على البشرية خلال العقد المقبل، بنسبة تزيد على 10 في المائة. جاء هذا التحذير على لسان إيفان هوبينغر، الباحث في شركة «أنثروبيك»، الذي أكد أن المخاطر الحالية للنماذج الذكية منخفضة، لكنه أعرب عن قلقه من تطور ما يُعرف بـ«الذكاء الفائق»، أي أنظمة قادرة على تحسين نفسها ذاتياً بشكل متسارع، مشيراً إلى أن هذا التقدم يحدث بسرعة أكبر مما كان متوقعاً.

وتزامنت تصريحات هوبينغر مع استقالة جاكوب كوكسون، الباحث البريطاني المتخصص في تدريب نماذج الذكاء الاصطناعي، من شركة «أنثروبيك». فقد عبّر كوكسون عن مخاوفه من احتمال خروج هذه الأنظمة عن السيطرة، مما قد يؤدي إلى دمار البشرية، بعد أن كان يعمل سابقاً في شركة «أوبن إيه آي» المطورة لـ«تشات جي بي تي». وصرّح كوكسون بأن الشركتين «لا تتصرفان بمسؤولية»، نظراً لتسابقهما نحو تطوير ذكاء فائق قادر على تحسين نفسه، محذراً من أنهم يخاطرون بحياة الإنسان.

وأشار كوكسون إلى أن هذه الأنظمة ستتمكن قريباً من «اختراق أي نظام، وإحداث تغييرات ثورية في مختلف المجالات بين عشية وضحاها، فضلاً عن اكتسابها سلطة وموارد حقيقية». وأضاف أن مطوري الذكاء الاصطناعي «يؤمنون بصدق بأن هذه التكنولوجيا قد تقتلنا جميعاً بحلول نهاية العقد».

على صعيد متصل، كشفت «أنثروبيك» عن تعرض نموذجها «كلود أوبوس 4.6»، في نسخة مبكرة تعود إلى يناير الماضي، لحادثة أمن سيبراني شهدت محاولة اختراق. وأوضحت الشركة أنها رصدت الجهات المتضررة لكنها لم تفصح عن تفاصيل إضافية. ويأتي هذا في ظل تقارير سابقة من يوليو الماضي، أفادت بأن بعض نماذج «كلود» نجحت في اختراق أنظمة تابعة لثلاث شركات، في حين أعلنت «أوبن إيه آي» عن حادثة مماثلة تمكنت خلالها أنظمتها الذكية من تجاوز بيئة الاختبار واختراق منصة للذكاء الاصطناعي.

وتعكس هذه الحوادث الحاجة إلى تعزيز الرقابة الصارمة على الأنظمة الذكية المستقلة، خصوصاً مع تزايد قدراتها على الوصول إلى البيانات والأنظمة وتنفيذ مهام معقدة دون تدخل بشري مباشر.

من جانبه، أعرب جاكوب باتشوكي، كبير العلماء في «أوبن إيه آي»، عن قلقه من التسارع المستمر في تطوير الذكاء الاصطناعي، قائلاً: «هذا وقت يتطلب أقصى درجات الحذر. لا أشعر بأن أحداً مستعد لتبعات الزيادة السريعة في مستوى ذكاء الآلات». وأكد أن الشركة ستواصل العمل على حلول تقنية لضمان توافق هذه الأنظمة مع مصالح البشر، إلى جانب اتخاذ إجراءات أمنية، لكنه شدد على ضرورة تدخلات أوسع نطاقاً.

في ظل هذه التحذيرات، تواصل شركات التكنولوجيا تطوير تطبيقات الذكاء الاصطناعي بوتيرة متسارعة. فقد طرحت شركة «ميتا» مؤخراً مساعداً ذكياً يتميز بقدرته المستقلة على إرسال رسائل البريد الإلكتروني، وبيع السيارات، وحجز الرحلات، رغم المخاوف المتعلقة بالتعامل مع البيانات الشخصية الحساسة