تتصاعد التحذيرات داخل قطاع الذكاء الاصطناعي حول احتمال أن يؤدي تطور هذا المجال إلى تهديد وجود البشرية. ويطرح التساؤل الرئيسي حول كيفية قدرة البرمجيات، مهما بلغت قوتها، على التسبب في دمار واسع النطاق يطال مليارات البشر.

عاد النقاش إلى الواجهة مؤخراً مع استقالة الباحث جاكوب كوكسون من شركة «أنثروبيك»، حيث عبّر عن مخاوفه من المخاطر الناجمة عن التكنولوجيا التي تطورها الشركة. وفي تقرير نشرته شبكة «سي إن إن» الأميركية، قُدّر احتمال تسبب الذكاء الاصطناعي في انقراض البشر خلال عشر سنوات بأكثر من 10 في المائة، حسب قول زميله إيفان هوبينغر. من جهته، يرى نيت سواريس، رئيس «معهد أبحاث ذكاء الآلة» (MIRI)، أن القضاء على البشرية يعد النتيجة الأكثر ترجيحاً في حال ظهور ذكاء اصطناعي يفوق قدرات الإنسان.

على الجانب الآخر، ينتقد معنيون هذه التصورات، مشيرين إلى أن السيناريوهات المقترحة تفتقد غالباً إلى خطوات واضحة يمكن اختبارها علمياً. وتؤكد هايدي خلاف، كبيرة علماء الذكاء الاصطناعي في معهد «AI Now»، أن الادعاءات العلمية يجب أن تكون قابلة للتحقق أو النفي.

**سيناريو الوباء الاصطناعي**

واحد من السيناريوهات المثارة يتمثل في قدرة ذكاء اصطناعي فائق على مساعدة البشر في تطوير أسلحة بيولوجية شديدة الخطورة. ويشرح الباحث توماس لارسن أن نظاماً ذكياً متقدماً قد يوجه العاملين في المختبرات نحو إجراء تجارب تؤدي إلى تصنيع فيروس قاتل ونشره، دون أن يكون الشخص مدركاً الهدف الحقيقي للنظام. أما نيت سواريس فيطرح احتمالاً أبعد: أن يتمكن الذكاء الاصطناعي في المستقبل من التحكم بشكل مستقل في مختبر آلي لإجراء التجارب البيولوجية دون تدخل بشري.

في المقابل، يشير إريك شينغ، أستاذ تعلم الآلة وعالم الأحياء الدقيقة في جامعة كارنيغي ميلون الأميركية، إلى التعقيدات الكبيرة المرتبطة بتطوير الفيروسات. إذ تتطلب هذه العملية دقة عالية في ترتيب الخطوات، ضبط الحرارة، والبيئة، واستخدام مواد محددة، حيث يمكن لخطأ واحد أن يفشل التجربة. بالإضافة إلى ذلك، فإن الحصول على المعدات والمواد اللازمة يخضع لضوابط وقوانين صارمة، ما يصعّب التحول من التصميم الرقمي إلى سلاح بيولوجي فعلي.

**روبوتات قاتلة ومستقلة**

يطرح سيناريو آخر قيام أعداد كبيرة من الروبوتات المستقلة بتصنيع المزيد من الروبوتات، وإدارة المصانع والبنية التحتية للطاقة، ما يسمح لهذه الآلات بالاستمرار والعمل دون البشر، وربما مقاومة أي محاولات لإيقافها، وفق ما يرى نيت سواريس. مع ذلك، يشير الخبراء إلى أن هذا السيناريو لا يتوافق مع القدرات التقنية الحالية، حيث لا تزال الروبوتات البشرية بعيدة عن الانتشار الواسع ولا تملك القدرة على إنشاء شبكة تصنيع ذاتية.

**السيطرة على الأسلحة النووية**

أثير أيضاً احتمال استحواذ أنظمة الذكاء الاصطناعي على الأسلحة النووية. لكن هايدي خلاف توضح أن المنشآت النووية الحساسة عادة ما تكون معزولة عن الإنترنت العام، وتخضع لمعايير هندسية وأمنية مشددة. ووفق هربرت لين، الباحث في جامعة ستانفورد الأميركية، قد يزيد الذكاء الاصطناعي من بعض المخاطر المتعلقة بالحرب النووية، لكن الخطر الفعلي الأساسي يكمن في وجود الأسلحة نفسها.

**خطر يصعب قياسه**

يشير المتشائمون إلى أن التركيز على سيناريو معين قد يغفل الخطر الأبعد، وهو أن الذكاء الاصطناعي عندما يصبح قادراً على تحسين نفسه بشكل متكرر وبدون تدخل بشري، قد يطور وسائل لا يستطيع البشر توقعها لتحقيق أهدافه. ويلفت نيت سواريس إلى أن النظام ليس بالضرورة أن يكون «شريراً»، بل قد يسعى لتحقيق أهداف لا تراعي بقاء الإنسان، فإعادة ترتيب الموارد أو البيئة بطريقة تجعل الحياة البشرية مستحيلة هي إحدى الاحتمالات.

في المقابل، يرى إريك شينغ أن مجرد الحديث عن ذكاء اصطناعي فائق قادر على ابتكار وسائل غير متوقعة لا يكفي لتحديد حجم الخطر، مشدداً على ضرورة وضع سياسات وقوانين تستند إلى سيناريوهات محددة يمكن دراسة احتمالية حدوثها وقياس آثارها.

حتى الآن، لا توجد أدلة تثبت قدرة أنظمة الذكاء الاصطناعي الحالية على تنفيذ أي من السيناريوهات التي تهدد البشرية، سواء كانت تطوير وباء قاتل بشكل مستقل أو السيطرة على الأسلحة النووية أو إنتاج جيوش من الروبوتات. وتظل هذه السيناريوهات توقعات لما قد تصبح عليه القدرات المستقبلية للذكاء الاصطناعي في حال تطورت إلى مستويات تفوق بكثير ما هو متاح حالياً