كيف ينتج الذكاء الاصطناعي معلومات خاطئة؟

#سواليف

تخيّل أنك تخوض امتحان تاريخ دون استعداد كافٍ، وتعتمد فقط على الحدس في الإجابة، فتربط '1776' بالثورة الأمريكية و'هبوط القمر' بعام 1969. هذا تقريباً ما تفعله نماذج اللغة الكبيرة (LLMs) مثل ChatGPT: إنها لا تفهم أو تفكر، بل 'تخمّن' الكلمة التالية بناءً على أنماط شاهدتها في كميات هائلة من النصوص.

هذه الحقيقة تؤكد قوة #نماذج #اللغة_الكبيرة وحدودها، وهذا يقودنا إلى السؤال الأهم: إذا كانت النماذج بهذه الذكاء، فلماذا لا تزال ترتكب الأخطاء، أو تهلوس الحقائق، أو تظهر تحيزاً؟ لفهم ذلك، علينا التعمق في كيفية تعلمها، وفق 'إنتريستينغ إنجينيرنغ'.

كيف تعمل هذه النماذج؟

تُقسّم اللغة إلى وحدات صغيرة (رموز) مثل 'wash' و'ing'، وتخصص لكل منها وزناً في شبكة عصبية ضخمة، ثم تعدّل هذه الأوزان باستمرار خلال التدريب لتقليل الأخطاء. بمرور الوقت، تتقن هذه النماذج التعرف على الأنماط، لكنها لا 'تعرف' الحقائق، فهي فقط تتوقع ما يبدو صحيحاً.

لماذا تخطئ أو تهلوس؟

لأنها تخمّن. هذا التخمين يؤدي أحياناً إلى 'هلوسة' معلومات خاطئة أو مفبركة بثقة، كاختراع مصادر أو استشهادات.

هذه ليست أكاذيب متعمّدة، بل نتيجة لعدم تمييز النموذج بين الصحيح والمزيف.

وفي التطبيقات العملية، يمكن للهلوسة أن تؤدي إلى عواقب وخيمة، وفي البيئات القانونية والأكاديمية والطبية، يمكن للذكاء الاصطناعي اختلاق قوانين ومصادر أو تشخيص الحالات بثقة تامة دون معرفة تاريخ صحة المريض، وهذا يوضح ضرورة مراجعة البشر لأي محتوى ينتجه الذكاء الاصطناعي والتحقق منه، خاصةً في المجالات التي تعدّ فيها الدقة أمراً بالغ الأهمية.

التحيّز والمعرفة القديمة

نظراً لأن النماذج تتعلم من بيانات الإنترنت، فهي معرضة لاكتساب التحيزات الثقافية والجندرية والسياسية المتأصلة في تلك البيانات.

كما أن 'معرفتها' مجمّدة زمنياً، فإذا تغير العالم بعد آخر تدريب لها، تصبح استنتاجاتها قديمة.

لماذا يصعب إصلاح هذه الأخطاء؟

يعمل مدربو الذكاء الاصطناعي مع مليارات الاحتمالات، وتدريبهم مرة أخرى من الصفر مكلف من حيث المال والقدرة الحاسوبية، والأسباب متشعبة، منها:

تكلفة تحديث البيانات: تدريب نموذج جديد يتطلب موارد هائلة.

غموض 'الصندوق الأسود': لا يمكن دائماً تفسير لماذا أعطى النموذج استجابة معينة.

محدودية الرقابة البشرية: لا يمكن فحص كل إجابة يخرج بها النموذج.

الحلول المطروحة

وللتغلب على هذه المشكلات، يلجأ المطورون إلى:

التعلّم المعزز بالتغذية الراجعة البشرية (RLHF)، حيث يقيّم البشر مخرجات النموذج لتحسينه.

الذكاء الاصطناعي الدستوري، كما لدى Anthropic، لتدريب النماذج على الالتزام بمبادئ أخلاقية.

مبادرة Superalignment من OpenAI، لتطوير ذكاء اصطناعي يتماشى مع القيم الإنسانية دون إشراف دائم.

قانون الذكاء الاصطناعي في الاتحاد الأوروبي، الذي يضع قواعد صارمة للأنظمة عالية المخاطر.

ما دور المستخدمين؟

#الذكاء_الاصطناعي أداة قوية، لكنه ليس معصوماً. لذا، تظل المراجعة البشرية ضرورية، خاصة في المجالات الحساسة كالقانون والطب والتعليم، فالخطأ الذي يصدر عن الذكاء الاصطناعي، تقع مسؤوليته على البشر، لا على الخوارزميات.