قدم باحث الذكاء الاصطناعي جاكوب كوكسون استقالته من شركة 'أنثروبيك' Anthropic، متقدماً برسالة تحذير غير مسبوقة تقريباً من داخل مختبرات التطوير، ومتهماً إياها وشركة 'أوبن إيه آي' OpenAI بعدم التصرّف بمسؤولية في السباق المحموم نحو بناء تقنيات قادرة على تحسين نفسها بنفسها. وذلك في سلسلة منشورات على منصة 'إكس'.

استقالة باحث في Anthropic يحذّر من خطر الذكاء الاصطناعي

أوضح كوكسون، الذي قضى 3 سنوات في أبحاث التدريب المسبق لدى الشركتين، أن الأنظمة التقنية تقترب من التفوّق على القدرات البشرية في مجالات واسعة؛ ما قد يمنحها القدرة على اختراق الأنظمة والوصول إلى قوة حقيقية في وقت لا يبدو فيه هذا التقدم متباطئاً.

مخاوف وجودية وتنافس خطير

شدّد الباحث المستقيل على أن بعض المطوّرين والمسؤولين داخل هذه الشركات يعتقدون سراً أن الذكاء الاصطناعي الفائق قد يتسبب في مقتل البشرية جمعاء قبل نهاية العقد الحالي، مؤكداً أن هذه المخاوف ليست مجرد تسويق إعلامي، بل قناعات يتم التكتم عليها في الأحاديث العامة.

وأضاف كوكسون أن 'أنثروبيك' و'أوبن إيه آي' محاصرتان في صراع تنافسي للوصول أولاً، تحت ذريعة منع الأطراف الأقل مسؤولية من الهيمنة، محذراً من أن هذه المنافسة تضغط على الشركات لتجاوز معايير السلامة والتغاضي عن أبحاث 'المواءمة' (Alignment) مع القيم البشرية.

تأييد داخلي ودعوات للتحكم

لاقى تحذير كوكسون تأييداً من داخل الشركة نفسها؛ حيث أقر إيفان هوبينغر، الباحث في Anthropic، بوجود احتمال يتجاوز 10% لتسبب هذه التقنية في كارثة وجودية خلال العقد المقبل.

وأضاف في تغريدة حصدت ملايين المشاهدات: أعتقد أن أنثروبيك تبذل قصارى جهدها، لكننا لا نملك حتى الآن خطة لضمان توافق سلوك الذكاء الاصطناعي الفائق مع المقاصد البشرية، وليس واضحاً أننا نسير على مسار يفضي إلى تحقيق ذلك.

تجميد تطوير القدرات الاستثنائية

دعا كوكسون الباحثين والمختبرات إلى عقد اتفاقيات مؤقتة لتجميد تطوير القدرات الاستثنائية، بهدف تجنب الوقوع في فخ سباق لا يمكن السيطرة على مخرجاته.

وسبق لكوكسون أن انضم إلى الموقّعين على بيان 'ضبط وتيرة التقدم' Pacing the Frontier، إلى جانب الرئيس التنفيذي لـ 'أنثروبيك' داريو أمودي وكبير العلماء في 'أوبن إيه آي' ياكوب باتشوكي. ويعرض موقع المبادرة، التي أُطلقت في يوليو، توقيعات أكثر من 1300 موظف في شركات الذكاء الاصطناعي المتقدم.

يحذّر البيان من أن أتمتة أبحاث الذكاء الاصطناعي قد تسرّع تطور قدرات الأنظمة بما يتجاوز قدرة البشر على فهمها أو التحكم فيها. ويدعو الحكومة الأميركية إلى دعم جهد دولي لتطوير أدوات تقنية وآليات حوكمة تتيح التحكم المتعمد في وتيرة هذا التقدم، مشيراً إلى أن ضغوط المنافسة تجعل إبطاء التطوير بصورة منفردة صعباً على الشركات والدول.