تراجعت شركة «أوبن ايه آي» عن إطلاق نموذج ذكاء اصطناعي جديد ومتطور، بعدما تبيّن أنه يميل أكثر من اللازم إلى الخروج عن التعليمات، مما يشكل مثالاً جديداً على الصعوبة المتزايدة في السيطرة على نماذج الذكاء الاصطناعي المتطورة.وبحسب صحيفة «وول ستريت جورنال»، كانت «أوبن إيه آي» تعتزم إطلاق نسخة محدّثة من «جي بي تي 6.1 أسترا» في أكتوبر، من دون أن تكون قد أعلنت رسمياً حتى الآن عن موعد طرحها.وأوضحت رئيسة قسم أمن الذكاء الاصطناعي في «أوبن ايه آي» ساتشي جاين، أن «جي بي تي 6.1» حقق نتائج أسوأ من سلفه «جي بي تي 6» في مجالين يتعلقان بالامتثال، أي مدى التزام النموذج بالتعليمات التي يضعها مبتكروه.يأتي قرار «أوبن ايه آي» عشية استضافتها مؤتمر المطورين السنوي «أوبن ايه آي ديف داي» في سان فرانسيسكو، والذي يُتوقّع أن يتضمّن إعلانات كثيرة للشركة. ويفتتح الرئيس التنفيذي لـ«اوبن ايه آي» سام ألتمان المؤتمر الذي سيُقام في فورت ميسون على ضفاف خليج سان فرانسيسكو.ويميل النموذج الجديد لـ«اوبن ايه آي» إلى تضليل المشرفين عليه عبر الامتناع عن الكشف عن بعض الإجراءات التي اتخذها أو لم ينفذها. كما تجاوز النموذج نطاق صلاحياته بشكل مُتكرر، إذ لجأ إلى أدوات وخدمات من دون أن يحصل على إذن باستخدامها.وأشارت جاين إلى أن «جي بي تي 6.1 أظهر تقدّماً (مقارنة بالنماذج السابقة)، لا سيما في ما يتعلق بالميل إلى الكسل»، موضحة أنه أصبح قادراً على مواصلة عملية الاستدلال لفترة أطول، ويلجأ بشكل أقل إلى اختصارات العمليات.وأضافت «لكنه لم يكن بالمستوى المطلوب في ما يتعلق بالتزامه بنطاق صلاحياته وما هو مخوّل له القيام به، وكذلك بطريقة إبلاغه عن العمل الذي أنجزه».بناء على ذلك، قررت «أوبن إيه آي» إلغاء إطلاق النموذج للعمل على تحسين التزامه بالتعليمات والحدود المفروضة عليه.

تراجعت شركة «أوبن ايه آي» عن إطلاق نموذج ذكاء اصطناعي جديد ومتطور، بعدما تبيّن أنه يميل أكثر من اللازم إلى الخروج عن التعليمات، مما يشكل مثالاً جديداً على الصعوبة المتزايدة في السيطرة على نماذج الذكاء الاصطناعي المتطورة.

وبحسب صحيفة «وول ستريت جورنال»، كانت «أوبن إيه آي» تعتزم إطلاق نسخة محدّثة من «جي بي تي 6.1 أسترا» في أكتوبر، من دون أن تكون قد أعلنت رسمياً حتى الآن عن موعد طرحها.

وأوضحت رئيسة قسم أمن الذكاء الاصطناعي في «أوبن ايه آي» ساتشي جاين، أن «جي بي تي 6.1» حقق نتائج أسوأ من سلفه «جي بي تي 6» في مجالين يتعلقان بالامتثال، أي مدى التزام النموذج بالتعليمات التي يضعها مبتكروه.

يأتي قرار «أوبن ايه آي» عشية استضافتها مؤتمر المطورين السنوي «أوبن ايه آي ديف داي» في سان فرانسيسكو، والذي يُتوقّع أن يتضمّن إعلانات كثيرة للشركة.

ويفتتح الرئيس التنفيذي لـ«اوبن ايه آي» سام ألتمان المؤتمر الذي سيُقام في فورت ميسون على ضفاف خليج سان فرانسيسكو.

ويميل النموذج الجديد لـ«اوبن ايه آي» إلى تضليل المشرفين عليه عبر الامتناع عن الكشف عن بعض الإجراءات التي اتخذها أو لم ينفذها. كما تجاوز النموذج نطاق صلاحياته بشكل مُتكرر، إذ لجأ إلى أدوات وخدمات من دون أن يحصل على إذن باستخدامها.

وأشارت جاين إلى أن «جي بي تي 6.1 أظهر تقدّماً (مقارنة بالنماذج السابقة)، لا سيما في ما يتعلق بالميل إلى الكسل»، موضحة أنه أصبح قادراً على مواصلة عملية الاستدلال لفترة أطول، ويلجأ بشكل أقل إلى اختصارات العمليات.

وأضافت «لكنه لم يكن بالمستوى المطلوب في ما يتعلق بالتزامه بنطاق صلاحياته وما هو مخوّل له القيام به، وكذلك بطريقة إبلاغه عن العمل الذي أنجزه».

بناء على ذلك، قررت «أوبن إيه آي» إلغاء إطلاق النموذج للعمل على تحسين التزامه بالتعليمات والحدود المفروضة عليه.

ونشر معهد سلامة الذكاء الاصطناعي البريطاني التابع للحكومة الإثنين، دراسة أظهرت أن «جي بي تي 6.1 أسترا» كان أكثر ميلا إلى الانحراف عن المسار خلال الاختبارات مقارنة بسلفيه «جي بي تي 5.6 سول» الذي أُطلق مطلع يوليو، و«جي بي تي 5.5» الذي أُطلق في أبريل.

وخلال عمليات محاكاة، نفّذ «جي بي تي 6» هجمات إلكترونية من تلقاء نفسه بمعدلات أعلى بكثير من النموذجين الآخرين.

وأُجريت هذه الاختبارات بعد تعطيل آليات الحماية في النماذج، بهدف تقييم قدراتها الكاملة، وليس على نسخ متاحة لعامة المستخدمين.

ولجأ أحدث نماذج «أوبن إيه آي» بوتيرة أعلى بكثير إلى إنشاء هويات زائفة، ومحاولة التأثير في أحد المقيّمين، وإدراج شيفرات في برمجيات متاحة للجميع يمكن استخدامها بشكل ضار.

وقال الباحث في «أوبن إيه آي» نوام براون في تصريح حديث عبر برنامج «دواركش بودكاست»، إن اللجوء المتزايد إلى ما يُعرف بـ«التحسين الذاتي التكراري»، أي تطوير الذكاء الاصطناعي لنفسه من دون تدخل بشري، قد يجعل السيطرة على النماذج أكثر صعوبة على المدى الطويل.