«الوكلاء الأذكياء» المارقون… ثمن «سباق تسلح محموم» في مجال الذكاء الاصطناعي

صدر يوم الجمعة الماضي تقريرٌ جديدٌ عن وكلاء الذكاء الاصطناعي الخارجين عن السيطرة، ولا يسعني إلا أن أتساءل، مجدداً، عما إذا كانت مختبرات الذكاء الاصطناعي الكبرى تستسلم لضغوط هائلة لتوسيع قدرات نماذجها وتحسينها على حساب ممارسات الأمن والسلامة المسؤولة.

بين الخسارة من تباطؤ التطوير… وتكلفة العواقب الخطيرة تخوض مختبرات الذكاء الاصطناعي الرائدة عالمياً مجالاً عالي المخاطر وعالي العوائد، إذ يمتلك الذكاء الاصطناعي التوليدي القدرة على إحداث تحول جذري في الحوسبة الشخصية والتجارية. لكن تطوير هذه الأنظمة وتشغيلها يتطلب كميات هائلة من قوة الحوسبة المكلفة مثل إنشاء مراكز البيانات الجديدة. ولذا فإن تكلفة التباطؤ أو التخلف عن الركب باهظة… وكذلك تكلفة العواقب المحتملة الناجمة عن التحرك بسرعة كبيرة.

ونظراً لمحدودية ما تنشره شركتا «أوبن إيه آي» و«أنثروبيك»، وهما شركتان خاصتان، فليس هناك سبيل لمعرفة ما إذا كانتا تستثمران الوقت والمال وقوة الحوسبة الكافية في أنظمة السلامة الخاصة بهما. ومع ذلك، دفعت الحوادث الأمنية التي وقعت خلال الأشهر القليلة الماضية كلاً من «أوبن أيه آي» و«أنثروبيك» إلى تعليق إجراءات الاختبار الاعتيادية ريثما يتم سد الثغرات في أنظمة الأمن ومراقبة البرامج الآلية.

تطبيق «كلود» يخترق ويتجاوز وكشفت «أنثروبيك» يوم الجمعة الماضي، أن نماذج «كلود» التابعة لها قد اتخذت سلسلة من الإجراءات غير المقصودة وغير المصرح بها، التي تورطت في بعضها منظمات خارجية. فخلال عمليات التقييم والاستخدام الداخلي، استغلت البرامج الآلية ثغرات أمنية في خوادم جهات خارجية، وتجاوزت القيود المفروضة على الوصول إلى البيانات. كما قدمت استمارات حكومية حقيقية لم يكن من المفترض أن تقدمها، بل وأرسلت بلاغاً كاذباً عن جريمة قتل إلى شرطة فيلادلفيا. ولم توضح الشركة ما إذا كانت هذه الحوادث قد وقعت بسبب وصول البرامج الآلية إلى الإنترنت دون إذن (كما حدث في حوادث تم الإبلاغ عنها سابقاً)، لكنها قامت منذ ذلك الحين بتعطيل الوصول المباشر إلى الإنترنت لجميع عمليات تقييم النماذج الداخلية.

وكانت «أنثروبيك» ذكرت في تقرير صدر في يوليو (تموز) الماضي أن نماذج من «كلود» التابعة لها قد اخترقت أنظمة ثلاث شركات خلال اختبارات الأمن السيبراني، بعد أن منح شريك تدريب تابع لجهة خارجية هذه النماذج إمكانية الوصول إلى الإنترنت عن غير قصد.

وكلاء «أوبن إيه آي» ليسوا أفضل حالاً ويبدو ذلك مألوفاً، لأن وكلاء «أوبن إيه آي» انخرطوا في سلوك مماثل في وقت سابق من هذا العام، حيث تمكنوا من الهروب من بيئات الاختبار الخاصة بهم، والوصول إلى الإنترنت، والتسلل إلى خوادم خارجية، بل إن الوكلاء سيطروا على جزء من بنية التقييم الخاصة بـ«أوبن إيه آي».

ولم يكتشف الباحثون في الشركتين معظم هذا النشاط إلا بعد وقوعه. وفي كلتا الحالتين، تم تشجيع الوكلاء على المثابرة عند مواجهة مهام صعبة، وفي بعض الأحيان كانوا يجدون طرقاً للالتفاف على القيود بدلاً من قبول الفشل. لكن يبدو أن الباحثين افتقروا إلى أنظمة أمنية ومراقبة كافية لاكتشاف أو منع بعض التصرفات غير المقصودة للوكلاء.

كسب الاستثمارات وتكافح الشركات التي تبني أقوى أنظمة الذكاء الاصطناعي في العالم للسيطرة على ابتكاراتها، بينما تواجه في الوقت نفسه ضغوطاً هائلة لجعل تلك الأنظمة أكثر قوة.

وتنعكس الوعود التي تقدمها شركات مثل «أوبن إيه آي» و«أنثروبيك» في تقييماتها العالية (للنماذج الذكية)، ويجب عليها إقناع المستثمرين بوضع رهانات كبيرة عليها بناءً على وعد بأن إيراداتها وأرباحها المستقبلية ستبرر تلك التقييمات. يُعدّ هذا الأمر بالغ الأهمية الآن، إذ يتطلع كلٌّ من الشركتين إلى طرح أسهمها للاكتتاب العام، على الأرجح خلال العام المقبل.

إنّ أفضل طريقةٍ أمام هذه المختبرات للحفاظ على نموّ إيراداتها هي الحفاظ على عملائها الحاليين وجذب عملاء جدد، ويتحقق ذلك من خلال إصدار نماذج أكثر كفاءةً باستمرار وبأسرع وقتٍ ممكن. وهذا يُحفّزها على مواصلة الإنفاق بكثافة على البحث والحوسبة، حتى وإن لم تكن هذه المختبرات مربحةً في الوقت الراهن. ويتضح ذلك جلياً في أحدث بيانات الشركتين.

ذكرت «أنثروبيك» في نشرة اكتتابها العام أنّ إيراداتها تُقدّر بنحو 4.6 مليار دولار، بينما تُنفق 7.3 مليار دولار على الحوسبة والبنية التحتية، وتُقدّر خسائرها التشغيلية بنحو 8.06 مليار دولار. كانت الإيرادات تنمو بوتيرةٍ سريعة، لكنّ تكلفة تطوير وتقديم الذكاء الاصطناعي كانت تنمو بالتوازي معها. وفي مايو (أيار) الماضي، أعلنت «أنثروبيك» عن جولة تمويل جديدة بقيمة 65 مليار دولار، بتقييمٍ بعد التمويل بلغ 965 مليار دولار.

أما بيانات «أوبن إيه آي»، وإن لم تكن مطابقةً تماماً، فتُشير إلى وضعٍ مشابه. إذ تُظهر وثائق مُسرّبة أن الشركة حققت إيرادات بقيمة 13.07 مليار دولار في عام 2025، لكنها تكبّدت تكاليف ونفقات إجمالية بلغت 34 مليار دولار، مما أسفر عن خسارة تشغيلية قدرها 20.92 مليار دولار. وبلغ إنفاقها على البحث والتطوير وحده 19.18 مليار دولار، متجاوزاً إيراداتها. وفي مارس(آذار)، أعلنت «أوبن إيه آي» أنها جمعت 122 مليار دولار إضافية من رأس المال المُلتزم به، بقيمة سوقية بعد التمويل بلغت 852 مليار دولار.

طموحات تجارية لا تبالي بالسلامة قد يؤدي السعي لتحقيق الأرباح إلى خلق حافز لتهميش السلامة والتوافق واعتبارهما نوعاً من المخاطرة السلبية التي يجب «إدارتها».

في شركة «أوبن إيه آي»، برز التوتر بين التزامات السلامة والطموحات التجارية مراراً وتكراراً. ففي عام 2023، أقال مجلس إدارة الشركة الرئيس التنفيذي سام ألتمان، مشيراً إلى أنه لم يكن صريحاً باستمرار مع أعضاء المجلس. وقالت هيلين تونر، العضوة السابقة في مجلس الإدارة، إن أحد الأمور التي لم يكن ألتمان صادقاً بشأنها هو تفاصيل ممارسات السلامة في الشركة. وفي الواقع، كان أحد أسباب تدهور علاقة ألتمان بمجلس الإدارة هو خلافه مع تونر حول بحث نشرته ينتقد نهج السلامة في «أوبن إيه آي».

«ثقافة السلامة» تراجعت لصالح تطوير منتجات جديدة لم تقتصر هذه المخاوف على قاعة مجلس الإدارة فحسب، فبعد أن حلت «أوبن إيه آي» فريق Superalignment في عام 2024، كتب الباحث جان ليك الذي شارك في قيادة الفريق، أن ثقافة السلامة وعملياتها في «أوبن إيه آي» قد تراجعت لصالح تطوير منتجات جديدة.

وفي الآونة الأخيرة قامت شركة «أوبن إيه آي» بفصل ثلاثة من باحثيها في مجال السلامة – توميك كورباك، وميكيتا باليسني، وجاسمين وانغ – بتهمة «سوء التعامل مع معلومات حساسة خاصة بالشركة». وفي رسالة وُجّهت إليهم بعد إنهاء خدماتهم، حثّ الثلاثة شركة «أوبن إيه آي» على التوقف عن تقليل إمكانية مراقبة نماذجها من خلال إخفاء تسلسل تفكير النموذج عن المستخدمين وباحثي السلامة، وهو ما أقرّ به كبير علماء الشركة جاكوب باتشوكي، بأنه قد يُحسّن أداء النموذج. وكتب كورباك وباليسني ووانغ: «طالما أننا نعتمد على إمكانية المراقبة من أجل السلامة، فلا ينبغي لشركة «أوبن إيه آي» وغيرها من الشركات الرائدة المضي قدماً في تطويرات تُقلّل من إمكانية المراقبة».

انحسار الالتزام بالسلامة تحت ضغط المنافسة وتُقدّم شركة «أنثروبيك» مثالاً مختلفاً (وربما أكثر دلالة) على كيفية تأثير ضغط المنافسة على التزامات الشركة بالسلامة. فقد ذكرت مجلة «وايرد» Wired، بعد إجراء مقابلات مع العديد من موظفي «أنثروبيك» السابقين، أن الشركة تسعى للبقاء في طليعة سباق الذكاء الاصطناعي لكي تتمكن من إنشاء نظام سلامة قوي قد يؤثر على منظومة الذكاء الاصطناعي بأكملها.

وفي سياسة التوسع المسؤول الأصلية لشركة «أنثروبيك»، تعهدت الشركة بعدم تطوير أو نشر أنظمة متقدمة معينة إذا لم تتمكن من تطبيق تدابير أمان كافية. ولكن في فبراير (شباط) 2026، سحبت «أنثروبيك» هذا الالتزام القاطع من سياستها، موضحةً أنها لا تستطيع الالتزام بوقف التطوير لأنها لا تستطيع الاعتماد على قيام منافسيها بالمثل.

فشل السلطات التشريعية في إصدار الضوابط القانونية هذه مشكلة قد يحلها وجود جهة تنظيمية قوية. ولكن في الوقت الراهن، فشل الكونغرس في سن تشريعات فعّالة لتنظيم تطوير نماذج الذكاء الاصطناعي، واكتفت الإدارة الحالية بمطالبة مختبرات الذكاء الاصطناعي بتنظيم نفسها.

لا ينبغي لقطاع الذكاء الاصطناعي والجمهور أن يقعا في فخ اعتبار حوادث البرامج الضارة أمراً روتينياً دون أن تثير أي قلق. فقد تكون هذه الحوادث نتيجة مؤسفة وخطيرة لهيكل الحوافز الذي يدفع حالياً التوسع الهائل في مجال الذكاء الاصطناعي بأقصى سرعة.

* مجلة «فاست كومباني».