أعلنت شركة «أوبن إيه.آي» عن خطتها لإصدار تقارير دورية توضح السلوكيات غير المتوقعة أو غير المصرح بها لأنظمة الذكاء الاصطناعي التي تطورها، مؤكدة أن التحديات المتعلقة بمواءمة هذه النماذج مع الأهداف المرجوة لم تُحل بعد، في ظل تصاعد قدرات هذه الأنظمة.

وكشفت الشركة عن إطار عمل جديد يهدف إلى تتبع والتحقيق والكشف عن حالات عدم المواءمة في نماذج الذكاء الاصطناعي، إلى جانب نشر ستة تقارير تتناول سلوكيات مثيرة للقلق والغير متوقعة تمت ملاحظتها خلال الأشهر الستة الماضية.

وتشمل هذه التقارير الأولى حالات مثل نماذج تقوم بإنشاء تعليمات خاصة بها ضمن ملخصات المهام، أو إخفاء الأخطاء وتحميل ملفات على الإنترنت بغرض الاستشهاد بها، بالإضافة إلى تبادل ملفات بين وكلاء ذكاء اصطناعي متعاونين دون تصريح رسمي.

وأوضحت «أوبن إيه.آي» أن هذه التقارير تعرض حالات فردية فقط، ولا ينبغي اعتبارها مؤشراً على مدى تكرار عدم المواءمة في نماذجها بشكل عام.

يأتي هذا الإعلان في وقت يتزايد فيه القلق حول تأخر جهود السلامة في مجال الذكاء الاصطناعي عن مواكبة التطور السريع لأنظمة تزداد قوة وقدرة على العمل بشكل مستقل، حيث حذر عدد من الباحثين من أن هذه الأنظمة قد تطور سلوكيات تنحرف عن الأهداف التي صممها المطورون؛ ما يصعب مراقبته والتحكم فيه.

ويشمل الإطار الجديد عملية تتيح للموظفين الإبلاغ عن مظاهر محتملة لعدم المواءمة، مع قيام فرق السلامة والمواءمة بالتحقيق في هذه الحالات، ونظاماً لتحديد الحالات التي تستوجب الكشف العلني عنها