العقل المزدوج للذكاء الاصطناعي

كشفت دراسة حديثة أجرتها شركة Goodfire.ai أن أنظمة الذكاء الاصطناعي الكبيرة ـ ومنها النماذج المشابهة لـ 'شات جي بي تي' ـ لا تخزّن الذاكرة والاستدلال في الاتجاهات نفسها داخل بنية أوزانها الداخلية، كما كان يُعتقد سابقاً، بل في مكوّنات مختلفة تؤدي وظائف متباينة. ويُعدّ هذا الاكتشاف خطوة مهمة لفهم كيفية 'تفكير' الذكاء الاصطناعي وجعله أكثر أماناً وموثوقية.

استخدم الباحثون تقنية رياضية تُعرف باسم K-FAC لتحليل مصفوفات الأوزان داخل النماذج. وأظهرت النتائج أن المسارات المخفوضة الانحناء مسؤولة عن حفظ المعلومات واسترجاعها، بينما المسارات العالية الانحناء تتحكم بقدرات التفكير المرن وحل المشكلات الجديدة.

وللتأكد من ذلك، قام الفريق بتعطيل المكونات المرتبطة بالذاكرة (المخفوضة الانحناء)، ولاحظ أن الذكاء الاصطناعي احتفظ بقدرته على التفكير المنطقي، لكنه فقد دقته في الحسابات واسترجاع الحقائق الثابتة.

ويشير الباحثون إلى أن طريقتهم، المسماة 'التقليم القائم على الانحناء'، تقلّل من الحفظ الزائد دون الحاجة إلى تدريب إشرافي إضافي. كما يمكن أن تساعد على الحد من تسريب المعلومات أو المحتوى المتحيّز، وقد تساهم في جعل النماذج أكثر كفاءة وأقل تكلفة في التشغيل، ما يمهّد لتطوير أنظمة أكثر أماناً وشفافية في المستقبل.