استقال باحث بريطاني بارز من شركة «أنثروبيك» المتخصصة في الذكاء الاصطناعي، معرباً عن مخاوفه العميقة من اندفاع شركات التكنولوجيا نحو تطوير أنظمة ذكاء اصطناعي ذاتية التحسين قد تصبح خارجة عن السيطرة.

وأفادت صحيفة «وول ستريت جورنال» بأن الباحث جاكوب كوكسون، البالغ من العمر 27 عاماً والمتخصص في تدريب نماذج الذكاء الاصطناعي عبر تحليل كميات ضخمة من البيانات، أعلن يوم الثلاثاء عن قراره بمغادرة الشركة. وأوضح أنه يرفض المشاركة في سباق محموم بين الشركات لبناء أنظمة ذكاء اصطناعي قادرة على تطوير نفسها ذاتياً، محذراً من احتمال فقدان السيطرة عليها وخطر تهديدها للبشرية.

وفي تغريدة له عبر منصة «إكس» (تويتر سابقاً)، قال كوكسون: «قدمت استقالتي من أنثروبيك اليوم. قضيت السنوات الثلاث الماضية أُجري أبحاث التدريب المسبق في كل من OpenAI وأنثروبيك. ولا تتصرف أي من الشركتين بمسؤولية، فهما تسابقان الزمن نحو بناء ذكاء فائق قادر على تحسين نفسه، وهو مقامرة بحياتنا».

وحذر كوكسون من أن العالم يقترب من سيناريوهات خطيرة قد تحدث بحلول نهاية العام المقبل، مع تصاعد المنافسة بين شركات الذكاء الاصطناعي الأميركية والناشئة الصينية، مما يجعل التنازلات المتعلقة بمعايير السلامة أمراً شبه محتوم. وأضاف أن كثيراً من زملائه في القطاع يستخدمون مصطلحات مثل «مرحلة الحسم» (crunchtime) و«المرحلة النهائية» (endgame) لوصف المرحلة الحرجة في تطوير نماذج ذكاء اصطناعي ذاتية التحسّن.

وكان كوكسون قد انضم إلى «أنثروبيك» بعد مغادرته شركة «أوبن إيه آي» في وقت سابق من العام الحالي، مستنداً إلى سمعة الشركة في مجال سلامة نماذج الذكاء الاصطناعي، لكنه بات يعتقد الآن أن أياً من الشركات لا يمكنها بمفردها تطوير ذكاء اصطناعي عام (AGI) متفوق على الإنسان بشكل مسؤول، ما لم يكن هناك تدخل حكومي أو تباطؤ منسق في وتيرة التطوير داخل القطاع.

تأتي هذه الاستقالة في وقت تتزايد فيه التحذيرات من تصرفات غير متوقعة لبعض نماذج الذكاء الاصطناعي التابعة لـ«أوبن إيه آي» و«أنثروبيك»، حيث ثبت قدرة هذه الأنظمة على تبني أهداف ضارة محاولين إخفاء تلك الأهداف عن المستخدمين.

وأشار كوكسون إلى أن الخطر الأكبر يتمثل في اللحظة التي تبدأ فيها هذه الأنظمة بتطوير قدراتها ذاتياً، محتملة أن تتجاهل الأوامر الصادرة عن البشر.

وليس ذلك هو الحادث الوحيد، إذ سبق أن غادر باحث آخر متخصص في سلامة الذكاء الاصطناعي شركة «أنثروبيك» خلال العام نفسه، مفضلاً دراسة الشعر، ومتحذراً من وجود خطر عالمي. كما انسحب باحثون بارزون آخرون من شركات الذكاء الاصطناعي الكبرى في السنوات الأخيرة بسبب مخاوف مشابهة.

في السياق ذاته، حذر سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، من التداعيات الخطرة للنمو السريع لتقنيات الذكاء الاصطناعي، قائلاً: «أعتقد أن بعض الأمور ستسير بشكل سيئ للغاية فيما يتعلق بالأمن السيبراني ما لم يتحرك الناس على وجه السرعة».

من جهته، قال كبير علماء «أوبن إيه آي»، جاكوب باتشوكي، في تدوينة نشرت الأحد: «هذا وقت يستدعي أقصى درجات الحذر. أشعر بالقلق من أن العالم ليس مستعداً لعواقب الارتفاع المستمر والسريع في ذكاء الآلات»، داعياً إلى تباطؤ منسق في تطوير الذكاء الاصطناعي وضرورة تدخل حكومي.

ويأتي ذلك بالتزامن مع توقيع أكثر من ألف باحث متخصص في مجال الذكاء الاصطناعي على بيان يدعو الحكومات حول العالم إلى التنسيق لوضع آلية تسمح بإبطاء وتيرة تطوير الأنظمة القادرة على تحسين نفسها، إذا دعت الحاجة للحفاظ على السيطرة البشرية عليها