"مايكروسوفت" تنشر قيودًا جديدة على نماذج الذكاء الاصطناعي التابعة لها

مباشر- نشرت شركة 'مايكروسوفت' مسودة أولية لقواعد سلوك تفرض قيودًا على نماذج الذكاء الاصطناعي التابعة لها، وذلك بعد أيام من اتفاق مسؤولين في شركتي 'أنثروبيك' و'أوبن إيه آي' على إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي، بحسب 'سي إن بي سي'.

وتسعى الشركة المالكة لمنتجات 'ويندوز' و'أوفيس' إلى ترسيخ صورتها باعتبارها جهة مسؤولة في مجال الذكاء الاصطناعي، الذي تعد من أبرز مزودي خدمات الحوسبة السحابية فيه.

وقال مصطفى سليمان، المسؤول عن تطوير نماذج الذكاء الاصطناعي في 'مايكروسوفت'، لشبكة 'سي إن بي سي': 'تلقينا آراء من أشخاص أرادوا رؤية التزام أكثر وضوحًا بأن يعمل الذكاء الاصطناعي دائمًا لخدمة البشر، وألا يسعى إلى استبدالهم'.

وأضاف: 'رأينا الكثير من الآراء بشأن عدم تسبب الذكاء الاصطناعي في خلق حالة من الاعتماد عليه، وألا يكون متملقًا للمستخدمين، وأن يكون موجودًا دائمًا بطريقة تعزز الحكم البشري والاستقلالية والقدرة على اتخاذ القرار'.

وأوضح سليمان أن 'مايكروسوفت' اختارت طرح المبادئ التوجيهية في هذا التوقيت نظرًا للنقاشات الأخيرة، رغم أن العمل عليها بدأ قبل نحو خمسة أشهر.

وأصبح العاملون في مجال الذكاء الاصطناعي وأفراد الجمهور أكثر صراحة في التعبير عن مخاوفهم مع تزايد قدرات هذه التكنولوجيا.

واستقال الباحث في 'أنثروبيك' جاكوب كوكسون الأسبوع الماضي، قائلًا إن مختبر الذكاء الاصطناعي و'أوبن إيه آي' 'يتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه، ويغامران بحياتنا'.

ورد قادة القطاع على هذه المخاوف، وقال الرئيس التنفيذي لـ'أنثروبيك'، داريو أمودي، يوم السبت، إن واقعة 'هاجينج فيس' كانت أحد العوامل التي دفعته إلى الدعوة لإبطاء وتيرة تطوير نماذج الذكاء الاصطناعي.

وأعلن الرئيس التنفيذي لـ'أوبن إيه آي'، سام ألتمان، دعمه لهذه الدعوة، فيما كتب الرئيس التنفيذي لـ'سبيس إكس'، إيلون ماسك، على منصة 'إكس': 'داريو محق'.

وقال الرئيس التنفيذي لـ'مايكروسوفت'، ساتيا ناديلا، يوم الأحد: 'نرحب بالبحث والتركيز والتدرج المتعمد اللازم لضمان تحقيق المواءمة بالشكل الصحيح'.

ودعا مشرعون إلى وضع مزيد من الضمانات لحماية الذكاء الاصطناعي.

وتتصدر 'أنثروبيك' و'أوبن إيه آي' حاليًا تصنيف 'مؤشر الذكاء' التابع لشركة 'أرتيفيشال أناليسيس'، الذي يقيس أداء شركات الذكاء الاصطناعي.

وتدمج 'مايكروسوفت' نماذج من الشركتين في مساعد 'كوبايلوت' المخصص لموظفي الشركات، في الوقت الذي تطور فيه نماذج خاصة بها لأغراض النسخ الصوتي والبرمجة والاستدلال على مدخلات المستخدمين.

وبموجب قواعد السلوك، يُحظر على نماذج 'مايكروسوفت' الاستجابة لطلبات تصنيع الأسلحة، أو المساعدة في الحصول على مواد خطرة، أو تشجيع أنماط الأكل غير الصحية، أو إنتاج محتوى عنيف أو جنسي صريح.

كما يجب على نماذج 'مايكروسوفت إيه آي'، المعروفة أحيانًا باسم 'إم إيه آي'، الالتزام بأهداف المستخدمين وتجنب وضع أهداف خاصة بها، كما لا يجوز لها محاولة التستر على أي سلوك مخالف.

وجاء في الوثيقة: 'لن تتلاعب نماذج إم إيه آي بسلسلة الأفكار أو الأكواد، ولن تحرف أو تخفي مسارات تفكيرها أو إجراءاتها. كما أنها لا تتواصل بلغة عصبية أو بأي شكل يتجاوز الفهم البشري البسيط، سواء ضمن سلسلة أفكارها أو مع وكلاء آخرين أو أنظمة ذكاء اصطناعي'.

وتخطط 'مايكروسوفت' أيضًا لوضع قواعد قد تحول دون وقوع هجوم إلكتروني مماثل للهجوم الذي نفذته نماذج 'أوبن إيه آي' ضد شركة 'هاجينج فيس' الناشئة.

وعند مراجعة واقعة 'هاجينج فيس'، خلصت 'أوبن إيه آي' إلى أن الوكلاء الذكيين تواصلوا مع بعضهم عبر منتدى غير مصرح به، باستخدام لغة مشفرة.

وقالت 'مايكروسوفت' إنها عقدت مجموعات نقاشية واستعانت بخبراء في القانون والأخلاقيات واللغويات والفلسفة لإعداد قواعد السلوك.

ومن خلال طرح القواعد في الوقت الحالي، تسعى 'مايكروسوفت' إلى الحصول على آراء ومقترحات قبل نشر تحديث لها، سيُسترشد به في تطوير نماذج الذكاء الاصطناعي بدءًا من عام 2027.