قادة الذكاء الاصطناعي يحذرون: خطر وجودي يهدد البشرية

حذّر قادة بارزون في قطاع الذكاء الاصطناعي، خلال جلسة خاصة عقدها مجلس الأمن الدولي، من مخاطر كارثية محتملة قد تنجم عن التسارع المتسارع في تطوير هذه التقنيات، داعين إلى وضع أطر تنظيمية دولية تضمن بقاء الإنسان في مركز عملية اتخاذ القرار وتحول دون خروج الأنظمة الذكية عن السيطرة.

وقال الرئيس التنفيذي لشركة 'أوبن إيه آي' سام ألتمان، خلال إحاطته أمام المجلس، إن التطور المتسارع لنماذج الذكاء الاصطناعي وقدرتها المتزايدة على التحسين الذاتي التكراري يستدعيان 'أعلى درجات الحذر'، محذرًا من أن العالم يقف أمام مفترق طرق قد يقود إما إلى تركّز القوة والفرص والسيادة وفقدان السيطرة، أو إلى توجيه التكنولوجيا لخدمة الإنسان ودعم التنمية والإبداع.

ودعا ألتمان إلى تجنب ما وصفهما بـ'التفاؤل الأعمى' و'النظرة الكارثية'، وطرح ثلاثة مبادئ للتعامل مع الذكاء الاصطناعي، تشمل إبقاء الإنسان في صميم عملية صنع القرار، وتوجيه العوائد العلمية والاقتصادية نحو تعزيز قدرات البشر بدلًا من استبدالهم، وتمكين الأفراد والمجتمعات من استخدام التكنولوجيا بما يخدم خياراتهم وحياتهم.

وشدد على أن القرارات المصيرية المتعلقة بالذكاء الاصطناعي لا ينبغي أن تُتخذ داخل مختبرات الشركات، وإنما عبر آليات ديمقراطية وحكومات تخضع للمساءلة أمام شعوبها.

وأشار ألتمان إلى التطور الكبير الذي حققته النماذج الذكية خلال السنوات الأخيرة، من التفوق في مسابقات الرياضيات إلى المساهمة في حل مشكلات علمية معقدة، مؤكدًا أن 'أوبن إيه آي' سبق أن أبطأت وتيرة التطوير وستكرر ذلك عند الحاجة لتجنب بناء أنظمة تفتقر إلى ضمانات التوافق مع القيم والمصالح البشرية.

وطالب بإنشاء آليات وطنية وإقليمية لتقييم المخاطر، ووضع لغة مشتركة للتحقق من الامتثال، وبروتوكولات للإبلاغ الفوري عن الأخطاء، وقنوات آمنة لتبادل المعلومات بشأن الثغرات والتهديدات الوشيكة.

وفي السياق ذاته، حذّر الرئيس التنفيذي لشركة 'أنثروبيك' داريو أمودي من أن سوء إدارة الذكاء الاصطناعي قد يمثل خطرًا على البشرية جمعاء، مشيرًا إلى أن قدرات النماذج شهدت قفزات كبيرة خلال فترة زمنية قصيرة.

وقال أمودي إن التطور انتقل خلال نحو أربعة أعوام من صعوبة كتابة سطر برمجي إلى تحقيق نتائج متقدمة، محذرًا من إمكانية الوصول خلال عام أو عامين إلى ما وصفه بـ'عالم من العباقرة في مراكز البيانات'.

واستعرض أمودي إنجازات شركته في مجال البحث العلمي، ومنها اكتشاف جزيء جديد يمكن أن يخدم العلاج الجيني، لكنه حذّر في الوقت نفسه من فئتين رئيسيتين من المخاطر، تتمثل الأولى في إساءة استخدام الذكاء الاصطناعي من قبل جهات تسعى إلى تطوير أسلحة بيولوجية، والثانية في تجاوز سرعة تطور النماذج قدرة المطورين على فهمها والسيطرة عليها.

واقترح أمودي على مجلس الأمن العمل على تحديد نقاط اتفاق دولية، في مقدمتها حظر استخدام الذكاء الاصطناعي في تصنيع الأسلحة البيولوجية، إلى جانب تعزيز أنظمة تقييم النماذج والتحقق منها، وتمكين الدول من الاطلاع على قدرات النماذج المتقدمة ومراقبة الالتزامات المرتبطة بها.

كما دعا إلى وضع معايير دولية مشتركة لاختبار نماذج الذكاء الاصطناعي، وإنشاء نظام للإخطار عن الحوادث المرتبطة بهذه التقنيات والتي قد تؤثر في الأمن الدولي.

ودعا قادة شركات التكنولوجيا إلى تجاوز الخلافات السياسية وتعزيز التعاون الدولي، بما يتيح توظيف قدرات الذكاء الاصطناعي في مجالات الرعاية الصحية والتعليم والتنمية، مع الحد من المخاطر المرتبطة بتطورها المتسارع.

وتأتي هذه التحذيرات في وقت تتزايد فيه المخاوف داخل قطاع التكنولوجيا من تداعيات التطور السريع للذكاء الاصطناعي؛ إذ نقل عن الباحث السابق في 'أنثروبيك' جاكوب كوكسون قوله، في وقت سابق من الشهر، إن بعض العاملين في تطوير هذه التقنيات يعتقدون بجدية أنها قد تشكل خطرًا بالغًا على البشرية بحلول نهاية العقد.

وفي الولايات المتحدة، أعلن الرئيس دونالد ترمب توجهًا لإعادة تعريف الخطاب الرسمي حول الذكاء الاصطناعي، مستخدمًا مصطلح 'الذكاء الفائق'، كما أعلن عن خطط لإنشاء 'قوة للذكاء الاصطناعي' وتعيين مسؤول يتولى هذا الملف، في وقت رفض فيه الدعوات المطالبة بفرض قواعد اتحادية جديدة على القطاع.