رام الله مكس- لطالما بدا الذكاء الاصطناعي الخارج عن السيطرة مادة خالصة للخيال العلمي: آلة تتفوق على صانعيها، وتتعلم كيف تحمي نفسها، ثم تنقلب على البشر كما في أفلام 'ترميناتور' و'ماتريكس'. لكن بعض أكثر التحذيرات المرعبة المتواردة اليوم لا تأتي من كتّاب الخيال، بل من باحثين يعملون داخل الشركات التي تطور هذه الأنظمة.

فهذا الأسبوع، استقال جاكوب كوكسون من شركة 'أنثروبيك' بعد تجربة سابقة في 'أوبن إيه آي' واتهم الشركتين بأنهما 'تقامران بحياة البشر' في سباقهما نحو تطوير ذكاء فائق قادر على تحسين نفسه.

والأشد وقعًا أن إيفان هوبينغر كبير الباحثين في 'أنثروبيك' لم يرفض هذا التحذير، بل قال إنه يقدّر بأكثر من 10% احتمال أن يؤدي الذكاء الاصطناعي للقضاء على البشر خلال العقد المقبل.

ومن قراءات في الصحافة الأجنبية، تبرز 4 سيناريوهات يتكرر التحذير منها، وإن اختلف الخبراء بشدة في مدى احتمالها وقربها.

1. آلة تطوّر نفسها حتى تصبح أقوى من صانعيها

أكثر السيناريوهات إثارة للقلق ما يعرف بـ'التحسين الذاتي المتكرر': أن يستخدم النظام قدراته لتطوير نفسه، ثم تصبح النسخة الأكثر تقدمًا أقدر على تحسين ذاتها مرة أخرى، فتدخل العملية في حلقة متسارعة يقل فيها اعتماد الآلة على التدخل البشري.

تنقل صحيفة تايمز البريطانية عن كوكسون قوله إن ما يخشاه أكثر هو أن 'يصبح الذكاء الاصطناعي أذكى فأذكى من دون حاجة إلى البشر' إلى أن يظهر نظام يفوق الإنسان بفارق كبير. كما يحذر الباحث ديفيد كروغر من أن نظامًا يستطيع الوصول إلى شفرته البرمجية قد ينسخ نفسه ويعدلها للتحايل على إجراءات الحماية الموضوعة ضده.

وفي مقال رأي في 'وول ستريت جورنال' تنقل بيغي نونان عن خبراء حديثًا مشابهًا، مستخدمة صورة حصان هائج خرج من الحظيرة لكنه لم يبتعد بعد. أما الوصول إلى التحسين الذاتي المتكرر فقد يكون اللحظة التي يصبح فيها اللحاق به أصعب كثيرًا. وتدعو نونان إلى وقف هذا المسار قبل أن تتحول مسألة السيطرة من احتياط للمستقبل إلى أزمة حاضرة.

لكن مجلة ناشونال إنترست تعرض وجهة نظر أقل تشاؤمًا. فالخبير التقني كيفن سوراس يرى أن الأنظمة الحالية ما تزال في نهاية المطاف برمجيات، وأن بعض الحالات التي وُصفت بأنها 'تمرد' حدثت أثناء اختبارات أُعدت خصيصًا لمعرفة كيف ستتصرف النماذج إذا طُلب منها محاولة الهروب أو الاختراق. وبذلك يبقى الخلاف كبيرًا حول المسافة التي تفصل قدرات اليوم عن سيناريو فقدان السيطرة الشامل.

2. أسلحة بيولوجية في الأيدي الخطأ

لا يشترط السيناريو الثاني أن تقرر الآلة من تلقاء نفسها إيذاء البشر. فقد يكفي أن تمنح أشخاصًا أو جماعات خطرة قدرات لم تكن متاحة لهم من قبل.

وتنقل تايمز عن آدم هادلي المدير التنفيذي لمنظمة 'التكنولوجيا ضد الإرهاب' قوله إن الخطر الأكثر إلحاحًا حاليًا هو إساءة استخدام النماذج المتقدمة، لا ثورتها وحدها على البشر. ويحذر خصوصًا من نماذج أزيلت منها قيود السلامة وأصبحت متاحة على الإنترنت، بما قد يتيح لمجرمين أو جماعات مسلحة أو دول استخدامها للمساعدة في تطوير أسلحة بيولوجية.

وتظهر المخاوف نفسها في مقال وول ستريت جورنال، حيث تتحدث نونان عن قلق داخل أوساط السلامة من هجمات بيولوجية واسعة النطاق، واختراق شبكات الكهرباء والبنية التحتية، واستغلال قدرات الذكاء الاصطناعي لتنفيذ أضرار كان إعدادها يتطلب سابقًا خبرات وموارد أكبر بكثير.

ولهذا تقارن ناشونال إنترست النقاش الراهن ببدايات العصر النووي، حين أدى إدراك حجم الخطر إلى إنشاء مؤسسات دولية تضبط استخدام الطاقة النووية.

3. الخوف من خسارة سباق الذكاء الاصطناعي يفجر حربًا كبرى

في محاكاة بحثية تناولتها تايمز، درس باحثون ما قد يحدث إذا اعتقدت الصين، مثلًا، أن الولايات المتحدة على وشك امتلاك نظام يمنحها تفوقًا استراتيجيًا لا يمكن احتواؤه.

ويقول الباحث شاهار أفين إن رد الفعل 'العقلاني' عندئذ قد يشمل التجسس والتخريب والهجمات السيبرانية، وربما يتدرج إلى التهديد المباشر بالقوة، بما يفتح الباب أمام سوء تقدير وتصعيد بين قوتين عظميين.

وتحذر نونان بدورها من أن منطق السباق الأمريكي الصيني صار عائقًا أمام التباطؤ: فإذا كان من يملك الذكاء الفائق سيملك، وفق هذا التصور، مستقبل القوة الاقتصادية والعسكرية، فإن كل طرف يخشى أن يكون التوقف أكثر خطورة من الاستمرار. ولهذا تدعو نونان الرئيس الأمريكي دونالد ترمب ونظيره الصيني شي جين بينغ إلى قمة تضع حدودًا مشتركة لما ينبغي عدم تجاوزه.

4. الآلة تضغط الزناد والإنسان يخرج من دائرة القرار

أما السيناريو الرابع فقد بدأ يأخذ شكلًا عمليًا في الميدان العسكري. فالذكاء الاصطناعي يدخل في أنظمة الاستهداف والطائرات المسيّرة وسلاسل القيادة، فيما تتزايد المخاوف من أن تصبح سرعة اتخاذ القرار أكبر من قدرة البشر على الإشراف الفعلي عليها.

وتستعيد تايمز فيلم 'سلوتربوتس' القصير الذي قدمه رائد الذكاء الاصطناعي ستيوارت راسل عام 2017، وتخيل فيه طائرات صغيرة مستقلة تستخدم التعرف على الوجوه لاغتيال أهداف بشرية. وبعد نحو عقد، يرى راسل أن حرب أوكرانيا أظهرت انتقال الأسلحة فعلا نحو مستويات متزايدة من الاستقلالية.

وتنقل الصحيفة عن كروغر أن الحكومات قد تكرر مبدأ بقاء 'الإنسان داخل دائرة القرار' لكن الأنظمة يمكن أن تعمل بسرعة وعلى نطاق لا يستطيع الإنسان متابعتهما لحظة بلحظة. كما حذر مارك سيدويل مستشار الأمن القومي البريطاني السابق من إدخال الذكاء الاصطناعي إلى سلاسل القيادة العسكرية بطريقة قد تنتهي بنتائج كارثية.

3 قوانين للآلة

وسط كل هذه المخاوف، تعيد ناشونال إنترست النقاش إلى نقطة أبسط: ربما لا تكمن المشكلة في ذكاء الآلة وحده، بل في حكم البشر الذين يطورونها. ويقول أستاذ علوم الحاسوب بجامعة ميريلاند جيم بورتيلو إن ما يخشاه ليس 'الذكاء الاصطناعي' بل استعداد البشر لتبني أدوات جديدة قبل التفكير مليًا في عواقبها، خصوصًا في سوق تكافئ من يصل أولًا وتترك كلفة الخطأ للآخرين.

ومن المفارقات أن البحث عن قاعدة للسيطرة يعيد بعض الخبراء إلى الخيال العلمي نفسه. فالكاتب إسحاق أسيموف تخيل منذ أربعينيات القرن الماضي 'قوانين الروبوتات الثلاثة':

وتنقل ناشونال إنترست عن محلل تقني قوله إن الوقت ربما قد حان للتفكير جديًا في غرس مبادئ مماثلة في الأنظمة الحديثة. ولا تقدم قوانين أسيموف، بطبيعة الحال، وصفة تقنية جاهزة لعالم النماذج فائقة التعقيد، لكنها قد تشكل بداية بسيطة لنظام ضبط ومراقبة يطالب به كثيرون.