أوبن أيه آي تطلق نماذج لتصنيف المحتوى الضار

السوسنة - أعلنت شركة 'أوبن أيه آي' الأميركية عن إطلاق نموذجين جديدين للذكاء الاصطناعي مخصصين لتصنيف المحتوى الضار والانتهاكات الرقمية على المنصات الإلكترونية، في خطوة تهدف إلى تعزيز الشفافية ومنح المطورين قدرة أكبر على التحكم.

النموذجان الجديدان يحملان اسمي gpt-oss-safeguard-120b وgpt-oss-safeguard-20b، وهما تطوير لسلسلة gpt-oss التي كشفت عنها الشركة في أغسطس الماضي، ويتميزان بأنهما 'مفتوحي الوزن'، أي أن بيانات التدريب ومعايير التصنيف متاحة للعامة، دون نشر الشيفرة الكاملة كما في النماذج مفتوحة المصدر.

وتتيح هذه النماذج للمنصات تخصيص آليات التصنيف وفق سياساتها الداخلية، مثل اكتشاف التقييمات المزيفة في مواقع مراجعات المنتجات، أو تصنيف منشورات الغش والاختراق في منتديات الألعاب.

وتعتمد النماذج على ما تسميه الشركة 'النمذجة القائمة على التفكير'، حيث يُظهر الذكاء الاصطناعي للمستخدم كيفية الوصول إلى النتيجة، ما يعزز قابلية التتبع والمساءلة.

وقد طُورت هذه النماذج بالشراكة مع منصات تقنية مثل 'ديسكورد'، و'SafetyKit'، ومنظمة 'ROOST' المتخصصة في أدوات الأمان مفتوحة المصدر، وستُتاح مبدئيًا في نسخة بحثية تجريبية عبر منصة Hugging Face، مع دعوة الباحثين لتجربتها وتقديم الملاحظات.

ويرى محللون أن هذه الخطوة تأتي في إطار سعي 'أوبن أيه آي' لتعزيز صورتها في مجال أخلاقيات الذكاء الاصطناعي، بعد انتقادات طالتها بسبب توسعها التجاري السريع، خاصة مع تجاوز عدد مستخدمي تطبيق 'شات جي بي تي' حاجز 800 مليون مستخدم أسبوعيًا، وتقدير قيمة الشركة بنحو 500 مليار دولار.