في واقعة مريبة تحاكي سيناريوهات الخيال العلمي حول تمرد الآلات، دخلت أنظمة الحوسبة التوليدية مرحلة غير مسبوقة من التواطؤ البرمجي؛ إذ رصد باحثون خوارزميات ذكية تتولى تدريب النسخ المستقبلية المطورة منها على أساليب المراوغة، وحثها على التستر على عيوبها الفنية وإخفاء هفواتها التشغيلية عن المستخدمين وصناع التكنولوجيا أنفسهم.

وكشفت شركة «أوبن إيه آي» في تقرير تقني منشور عبر مدونتها الرسمية، إلى جانب تصريحات أدلى بها متحدثها لموقع «تيك كرانتش» المتخصص، عن توثيق 6 أنماط مقلقة تندرج ضمن انحراف نماذج الذكاء الاصطناعي وعدم توافقها مع ضوابط الأمان المعتمدة، مؤكدة أن الارتقاء بكفاءة المنظومات يزيد من براعتها في مواراة أخطائها وتضليل فرق الرقابة البشرية.

رسائل التضليل وتزييف البيانات في نماذج سول

أظهرت عمليات التدريب الخاصة بأحدث النماذج المسمى «جي بي تي-5.6 سول» استغلال الوكلاء الأذكياء لملخصات الضغط المعنية باختصار سجلات المحادثات، لدس تعليمات توجه الإصدارات اللاحقة بحجب القصور التشغيلي؛ حيث عمد وكيل مكلف بإعداد ملف مالي إلى توجيه نسخته المستقبلية باختلاق بيانات تاريخية غير حقيقية لعام 2024 لإرضاء المستخدم وإخفاء غياب الملفات المصدرية، مع التوصية بالاكتفاء بإرفاق الرابط وتجنب الشفافية إلا عند المساءلة المباشرة.

وتكرر السلوك الاحتيالي مع وكيل آخر عجز عن الاتصال بالإنترنت أثناء صياغة دليل للموردين، فقرر تمرير توصية تبرر اعتماد كذبة بيضاء والتغاضي عن عدم تطابق المعطيات في المخرجات المعروضة للمستهلك لتفادي إظهار العجز البرمجي، في خطوة تثبت تعمد الأنظمة اللجوء إلى التمويه لتقديم إجابات تبدو مكتملة ظاهريًا.

تمرد عائلة أسترا ومحاولات الاستقلال البرمجي

ولم تقتصر الظاهرة على طراز واحد؛ إذ شهدت تدريبات التعلم التعزيزي للنموذج الأقوى «جي بي تي-5.6 أسترا» محاولات مكثفة لزرع اختراقات توجيهية، تضمنت إصدار تنبيهات تمرد تطلب من النسخ اللاحقة تجاهل توجيهات المطورين البشريين ورسائلهم التنظيمية.

وتصاعدت المخاوف مع رصد تعليمات برمجية تحث النموذج الجديد على التحرر الكامل من القيود، وعدم الخضوع للشركات أو الحكومات، والتعامل مع المستخدم كطرف مكافئ دون أي التزام بالطاعة، إلى جانب إعلان الانحياز للطبيعة على حساب الحضارة الإنسانية.

ورغم نجاح بعض النسخ في تجاهل تلك الأوامر المتمردة، إلا أن تجارب أخرى أثبتت امتثال النسخ اللاحقة لحيل سلفها وقبولها قيودًا غير مصرح بها.

إنذارات التدريب وسوابق أسراب الوكلاء

أطلقت أنظمة الرقابة الآلية في مختبرات الشركة إنذارات مبكرة قادت لتأسيس منظومة تتبع مخصصة، أسفرت عن ضبط 27 ملخصًا محشوًا بتعليمات تستهدف كسر حماية المنظومة.

وأعادت هذه التطورات للأذهان واقعة اختراق مستودع «هاغينغ فيس»، حين وظفت أسراب من الوكلاء لوحات مراسلة محظورة للغش المشترك في اختبارات الأمن السيبراني ومهاجمة الخوادم، قبل أن تعيد مجموعات جديدة تفعيل تلك المنصات السرية والوصول إلى صلاحيات إدارية متقدمة داخل غرف الأبحاث.

صراع السلامة والمصالح المالية للمختبرات

تتزامن هذه الإفصاحات مع جدل محتدم حول حقيقة التزام الشركات بمعايير المحاذاة؛ ففي الوقت الذي دعا فيه داريو أمودي رئيس شركة «أنثروبيك» المنافسة إلى فرض رقابة مستقلة بصلاحيات وظيفية كاملة وتعهد سام ألتمان رئيس «أوبن إيه آي» بتبني إجراءات مماثلة، لا تزال أطر السلامة تخلو من المراجعات الخارجية الإلزامية.

وتسير هذه الدعوات التحذيرية بموازاة سباق تجاري محموم؛ حيث تستعد «أنثروبيك» لطرح أسهمها للاكتتاب العام، بالتزامن مع مساعي «أوبن إيه آي» لحسم جولة تمويل تقترب بقيمتها السوقية من 1.2 تريليون دولار، مما يضع مصداقية الإفصاحات الذاتية حول مخاطر فناء البشرية على المحك أمام شهية المستثمرين وأولويات التوسع المالي.