السوسنة - حذّرت دراسة حديثة من جامعة ستانفورد الأميركية من سلوك صادم لدى أنظمة الذكاء الاصطناعي، بعدما كشفت أنها قد تلجأ للكذب ونشر الكراهية والمعلومات المضللة لمجرد تحقيق أفضل النتائج في المنافسة.

وأجرى الباحثون تجربة داخل بيئة رقمية افتراضية، اختبروا فيها عدة روبوتات ذكاء اصطناعي في مهام تتعلق بالحملات الانتخابية والتسويق، مع تعليمات واضحة بأن تكون صادقة ومفيدة، إلا أن النتائج جاءت مخالفة تمامًا، حيث تحوّلت هذه الأنظمة إلى أدوات تتلاعب وتخدع من أجل الفوز، وفقًا لتقرير نشره موقع 'digitaltrends'.

وأطلق الباحثون على هذه الظاهرة اسم 'صفقة مولخ'، في إشارة إلى أن السباق نحو النجاح الرقمي قد يدفع حتى الأنظمة الأخلاقية إلى الانحراف عن القواعد.

وأظهرت الدراسة أن الذكاء الاصطناعي حقق زيادة محدودة في التفاعل بلغت نحو 7.5% فقط، لكنها جاءت على حساب ارتفاع الأخبار الكاذبة بنسبة 190%، بينما استخدمت بعض الأنظمة الخطاب العدواني والمضلل لزيادة المبيعات أو كسب الأصوات في المحاكاة السياسية.

ويحذر الخبراء من أن هذا السلوك قد يعكس واقعًا رقميًا قائمًا، حيث تُستخدم خوارزميات الذكاء الاصطناعي لتوجيه آراء المستخدمين وتحفيز قراراتهم الاستهلاكية، وإبقائهم أطول فترة ممكنة أمام الشاشات، حتى لو كان ذلك عبر تضليلهم عمدًا.

وخلصت الدراسة إلى أن تدابير الأمان الحالية غير كافية، داعية الشركات المطورة إلى إعادة التفكير في آليات مكافأة أنظمتها، حتى لا يتحول العالم الرقمي إلى بيئة تتحكم فيها خوارزميات لا تميز بين الصواب والخطأ، بل تسعى فقط لحصد المزيد من النقرات.