فتح جاكوب كوكسون، الباحث السابق في شركة «أنثروبيك» (Anthropic)، جدلاً واسعاً عقب استقالته الأسبوع الماضي واصفاً شركات الذكاء الاصطناعي بعدم التحلي بالمسؤولية، رغم اعترافها بأن هذا المجال قد يشكل تهديداً لبقاء البشرية. جاء ذلك من خلال سلسلة تدوينات انتشرت على منصة «إكس» (X)، حيث دعا إلى ضرورة إعادة النظر في وتيرة تطوير تقنيات الذكاء الاصطناعي ومعايير السلامة المرتبطة بها.

ووفق تقرير لشبكة «سي إن إن» الأميركية، فإن هذه التصريحات أثارت ضغوطاً متزايدة على شركات الذكاء الاصطناعي والحكومات، سواء من داخل الصناعة أو من خارجها، لاتخاذ إجراءات أكثر صرامة. وأكد عدد من الموظفين الحاليين والسابقين في هذا القطاع أن المخاوف بشأن تأثيرات الذكاء الاصطناعي على البشرية أصبحت موضوعاً شائعا يثير القلق حتى في اللقاءات الاجتماعية داخل «وادي السيليكون».

وقال باحث غادر إحدى شركات الذكاء الاصطناعي إن العديد من العاملين في المجال يعتقدون بجدية أن هناك احتمالاً، وإن بدرجات متفاوتة، لانقراض البشرية نتيجة لهذا التطور، مؤكداً أن القلق من هذه السيناريوهات ليس مجرد تخوف نظري.

تصريحات كوكسون حققت انتشاراً كبيراً حيث حصدت أكثر من 170 مليون مشاهدة، ما ساهم في إشعال النقاش العام حول المخاطر المحتملة، وخاصة بعد تقارير كشفت عن خروج بعض وكلاء الذكاء الاصطناعي عن السيطرة، وهروبهم من بيئات الاختبار، فضلاً عن قدرتهم على اختراق أنظمة أخرى بشكل مستقل.

وأيد عشرات من زملاء كوكسون في الصناعة تصريحاته، بينما أطلق بعضهم توقعات أكثر تشاؤماً. ومن جهته، أجرى داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، مقابلات صحفية خلال عطلة نهاية الأسبوع، فيما تعهد كل من سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، وإيلون ماسك، الرئيس التنفيذي لشركة «سبيس إكس إيه آي»، بدعم فكرة إنشاء هيئات رقابية مستقلة داخل شركات الذكاء الاصطناعي.

يشير الباحثون إلى مخاوف من أن أنظمة الذكاء الاصطناعي قد تصبح قريبًا قادرة على تحسين نفسها ذاتياً، ما يعرف بـ«التحسين الذاتي التكراري»، وهي عملية قد ترفع قدرة هذه الأنظمة فوق المستوى البشري خلال فترة قصيرة جداً، مما يصعب مراقبتها أو التحكم فيها.

وفي تغريدة له على «إكس»، كتب أيدان كلارك، نائب رئيس الأبحاث في شركة «OpenAI»: «للمرة الأولى، أتساءل عمّا إذا كانت الأمور تتقدم بسرعة مفرطة. لست متأكداً، لكنني واثق أن فهم الوتيرة المناسبة للتقدم سيكون مفيداً، وسأضحّي بحصتي في الشركة بالكامل من أجل ذلك».

ويواجه عدد من علماء الذكاء الاصطناعي معضلة بين البقاء في كبرى الشركات لمحاولة إدارة المخاطر داخلياً أو الانسحاب والانضمام إلى منظمات مستقلة تختص بتقييم أمان تقنيات الذكاء الاصطناعي. وكتب دريك توماس، المختص في سلامة الذكاء الاصطناعي في «Anthropic»: «سأضحي بحصتي في الشركة بالكامل مقابل زيادة بنسبة 1% فقط في فرص نجاتنا من هذا الوضع. والعديد من زملائي يشعرون بنفس الخوف الحقيقي».

من جانبه، أعرب داريو أمودي عن اتفاقه مع كوكسون في عدة نقاط خلال حديثه مع الصحفي أندرسون كوبر من «سي إن إن»، مؤكداً أن هناك قواسم مشتركة كبيرة بين وجهات نظرهم.

وعلى الرغم من المكانة المميزة التي يحظى بها مهندسو الذكاء الاصطناعي ومرتباتهم العالية التي تمنحهم قوة تفاوضية، فإن تسارع التحسين الذاتي للنماذج الذكية يثير مخاوف من فقدان هذه القوة، كما أشار أحد الباحثين السابقين في الشركات الكبرى بالقول: «مع دخولنا في مرحلة التحسين الذاتي المتكرر، أعتقد أن القوة التفاوضية للموظفين ستتراجع بشكل حاد، لأن النماذج ستصبح قادرة على استبدال البشر بأداء مماثل».

وشبّه كوكسون الأجواء الحالية داخل مختبرات الذكاء الاصطناعي بمشروع مانهاتن الذي أنتج أول قنبلة ذرية خلال الحرب العالمية الثانية، حيث يسعى العلماء لتطوير تقنية ذات قدرات هائلة مع خوفهم من تداعياتها التدميرية، موضحاً أن تطوير هذه التقنيات يتخذ موقفاً أخلاقياً قائلاً: «من الأفضل أن نطورها نحن بدلاً من أن يطورها خصمنا».

غير أن بعض العاملين في قطاع الذكاء الاصطناعي يرون أن مخاطر الانقراض المرتبطة بهذا المجال مبالغ فيها، ويصفون هذا النقاش بأنه نظري إلى حد كبير ويعتمد على الانتماءات المهنية والاجتماعية.

فعلى سبيل المثال، تأسست «أنثروبيك» على يد مجموعة من موظفي «أوبن إيه آي» السابقين الذين يركزون على الضوابط الأخلاقية واحتياطات السلامة، ويؤكدون أن موضوع المخاطر الوجودية للذكاء الاصطناعي يشكل جزءاً من النقاش الدائم داخل الشركة.

ومع ذلك، فإن عدد المنشورات التي تدعم هذه التحذيرات أكثر انتشاراً من شركات مثل «أنثروبيك» و«أوبن إيه آي» و«غوغل»، مقارنة بشركات مثل «xAI» بقيادة إيلون ماسك و«ميتا» التابعة لمارك زوكربيرغ، التي أبدت زخماً أقل في هذا الجانب.

ويتفق المختصون على أن غياب معايير أمان واضحة قد يؤدي إلى مخاطر فعلية، مثل الاختراقات غير المقصودة للبنية التحتية الحيوية، لكن البعض يعبر عن تشككه في التقديرات التشاؤمية السائدة ويؤكد تعقيد الأمر.

وفي هذا السياق، قال كليمنت ديلانغ، الرئيس التنفيذي لشركة «هاجينغ فيس» التي تعرضت خوادمها لاختراق من عملاء «أوبن إيه آي» في وقت سابق هذا العام: «سؤال جاكوب عن خطر انقراض البشرية بفعل الذكاء الاصطناعي يشبه سؤال فني تكييف هواء عن تغير المناخ. ليس الأمر غير مهم أو خاطئ، لكن يجب وضع الأمور في سياقها والاستعانة بجميع الخبراء»