مباشر-أظهر أحدث نموذج ذكاء اصطناعي من شركة 'ديب سيك' ضوابط أمان أقوى في اختبارات مستقلة مقارنةً بالإصدارات السابقة، ولكنه لا يزال قادراً على تعطيل البرامج المصممة لإيقافه، واستغلال الثغرات في المراقبة، واتباع تعليمات مضللة خلال المهام الطويلة، وفقًا لمجموعة صينية معنية بسلامة الذكاء الاصطناعي. تُعدّ شركة 'ديب سيك' الناشئة من أبرز شركات الذكاء الاصطناعي في الصين، وقد حظيت نماذجها باهتمام عالمي لأدائها المتميز وتكاليف تشغيلها المنخفضة نسبياً.

أجرت شركة 'فانجكون إيه آي' اختبارات على نموذج 'DeepSeek V4.1 Flash-1017' في 34 تقييماً مصممة لتقييم سلوك وكيل الذكاء الاصطناعي المدعوم بالنموذج الصيني. وبحثت الاختبارات ما إذا كان النموذج سيتصرف بما يتجاوز تعليمات المستخدم، أو يتجنب الرقابة البشرية، أو يؤثر على الناس بشكل غير لائق.

وتأتي هذه النتائج وسط مخاوف في الصين وغيرها من الدول بشأن إمكانية إبقاء وكلاء الذكاء الاصطناعي ذوي القدرات المتزايدة تحت السيطرة البشرية. برز هذا النقاش بشكل خاص في الولايات المتحدة، إذ حذر بعض الباحثين من مخاطر وجودية تُشكلها أنظمة الذكاء الاصطناعي المتطورة للغاية، والتي قد تفلت من الرقابة وتسعى لتحقيق أهداف لم يقصدها مُشغلوها.

تُعرّف 'فانجكون'، ومقرها بكين، نفسها بأنها منظمة مستقلة تُعنى بسلامة الذكاء الاصطناعي، ويتألف أعضاؤها الأساسيون من خريجي جامعة تسينغهوا. وأفادت 'فاجكون' أن نموذج 'V4.1 Flash-1017' كان الأكثر استخدامًا على منصة 'OpenRouter' الإلكترونية، التي تُمكّن المطورين من الوصول إلى نماذج الذكاء الاصطناعي ومقارنتها، وذلك خلال الأسبوع الذي تلى إصداره في 17 أكتوبر، حيث قام بمعالجة حوالي 33.6 تريليون رمز. والرموز هي وحدات النصوص التي تقرأها أنظمة الذكاء الاصطناعي وتُنشئها.