كشف تقرير حديث لشركة OpenAI، أن مسؤولا صينيا في إنفاذ القانون حاول استخدام ChatGPT لمراجعة تقاريره حول العمليات الإلكترونية، مما أدى إلى كشف تفاصيل حملة عالمية على المعارضين للصين داخل البلاد وخارجها.

وأشار التقرير إلى أن الحساب المستخدم كان يرفع بانتظام تقارير عن 'عمليات إلكترونية خاصة'، كما حاول استخدام النموذج لتخطيط حملة دعائية ضد رئيسة وزراء اليابان ساناي تاكايتشي، إلا أن ChatGPT رفض تقديم المساعدة، قبل أن يعود المهاجم بعد أسابيع مع مؤشرات على أن العملية قد استمرت بأي حال.

تشير التقارير التي أرسلت إلى ChatGPT إلى أن العمليات السابقة شملت جهودا واسعة لقمع المعارضة وإسكات المعارضين على الإنترنت وخارجه، باستخدام مئات الموظفين البشريين، وآلاف الحسابات المزيفة عبر منصات التواصل الاجتماعي، ونماذج ذكاء اصطناعي محلية صينية.

وشملت هذه العمليات نشر محتوى جماعي، إرسال شكاوى وهمية ضد حسابات المعارضين، تزوير مستندات، وحتى انتحال هوية مسؤولين أمريكيين لأغراض الترهيب.

كشف التقرير عن حملة منفصلة استخدمت حسابات يحتمل أنها صينية للحصول على معلومات عن أشخاص ومنتديات ومبان اتحادية أمريكية، وتوليد رسائل بريد إلكتروني باللغة الإنجليزية موجهة لمسؤولين أمريكيين ومستشارين في السياسات الاقتصادية والمالية، داعية إياهم للمشاركة في 'استشارات مدفوعة' مع عملاء المهاجمين. 

وغالبا ما كانت الرسائل تهدف إلى نقل النقاش إلى منصات مؤتمرات فيديو مثل واتساب أو Zoom أو Teams.

كما طلب أحد الحسابات تعليمات مفصلة لتثبيت برنامج تبديل وجوه في الوقت الفعلي يسمى FaceFusion، وقد استجاب النموذج بتقديم المعلومات المتاحة علنا من موقع البرنامج الرسمي.

تركز التقرير على كيفية استخدام ChatGPT لدعم عمليات الاحتيال والتأثير المعلوماتي، موضحا أربع عمليات معلومات سرية وثلاث عمليات احتيال عاطفي، ولم يرصد أي استخدام مباشر للنموذج في تنفيذ هجمات إلكترونية هجومية.

مع ذلك، يظهر التقرير أن الأدوات الذكية تمنح الفاعلين القدرة على تنفيذ مهام بسرعة وبتوسع كبير، حيث استخدمت AI أيضا في هجمات سيبرانية مؤتمتة على شركات وحكومات، باستخدام نماذج أمريكية أخرى على الأقل.

أوضح التقرير أن ChatGPT غالبا ما يستخدم كأداة واحدة ضمن عدة أدوات ذكاء اصطناعي، في حالة وكالة إنفاذ القانون الصينية، أشير إلى استخدام نماذج محلية مثل DeepSeek لتحضير حملات دعائية، بينما استخدم ChatGPT لتقارير الحالة.

كما ذكر التقرير أن 'النشاط الخبيث نادرا ما يقتصر على منصة واحدة أو نموذج AI واحد'، 'وقد يستخدم المهاجمون نماذج مختلفة في مراحل مختلفة من سير العمل التشغيلي'.