أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي 'سدايا' النسخة الأولى من 'الدليل المرجعي لتحيزات الذكاء الاصطناعي'، الذي يضم أكثر من 100 تحيز قد تؤثر في دقة وعدالة أنظمة الذكاء الاصطناعي، مستعرضًا تعريفاتها، وآليات نشأتها، وتأثيراتها على المجتمع، إلى جانب أمثلة واقعية وإستراتيجيات عملية للتخفيف من آثارها.

وأكد الدليل أن التوسع المتسارع في استخدام تقنيات الذكاء الاصطناعي داخل القطاعات الحيوية والحساسة، مثل العدل والصحة والتعليم، صاحبه اهتمام متزايد بمعالجة التحيزات التي قد تؤثر في عمليات صنع القرار، نظرًا للطبيعة المعقدة لهذه الأنظمة وتعدد مراحل تطويرها وتداخل أدوار المختصين القائمين عليها.

تحيزات قد تؤثر في العدالة وصنع القرار

وأوضح الدليل أن التحيزات قد تقوض فاعلية أنظمة الذكاء الاصطناعي، وتحولها من أداة لتعزيز العدالة والإنصاف إلى وسيلة قد تؤدي إلى ترسيخ التحيز، الأمر الذي قد ينعكس سلبًا على سمعة المؤسسات، ويعرضها للمساءلات القانونية أو شكاوى المستهلكين.

وأشار إلى أن حصر هذه التحيزات، وفهم أسبابها، ووضع آليات عملية للحد منها، يمثل خطوة أساسية لضمان نجاح مشاريع الذكاء الاصطناعي وتعزيز موثوقيتها.

بيانات وخوارزميات وافتراضات مسبقة

وبيّن الدليل أن مصادر التحيز تتعدد، وتشمل بيانات تدريب لا تمثل مختلف الفئات بصورة كافية، أو خوارزميات قد تمنح أفضلية غير مقصودة لخصائص معينة، إضافة إلى الافتراضات والتقديرات المسبقة التي قد تؤثر في تفسير البيانات.

واستشهد الدليل بأدوات التوظيف المعتمدة على الذكاء الاصطناعي، التي قد تمنح أفضلية لمرشحين من خلفيات تعليمية نخبوية على حساب مرشحين آخرين يمتلكون الكفاءة نفسها لكن من خلفيات أقل حظًا.

استكمال لمنظومة الذكاء الاصطناعي المسؤول

ويأتي إصدار الدليل امتدادًا لجهود 'سدايا' في تعزيز عدالة أنظمة الذكاء الاصطناعي، بعد إطلاق مبادئ أخلاقيات الذكاء الاصطناعي، ومبادئ الذكاء الاصطناعي التوليدي الموجهة للجهات الحكومية وللعموم، إلى جانب إطار تبني الذكاء الاصطناعي، ودراسة 'التحيز في أنظمة الذكاء الاصطناعي: تحديات وحلول'.

وتواصل الهيئة دعم المحتوى المعرفي المتخصص، وتمكين الكفاءات الوطنية في التقنيات المتقدمة، انطلاقًا من دورها بوصفها المرجع الوطني للبيانات والذكاء الاصطناعي، بما يسهم في ترسيخ الاستخدام المسؤول لهذه التقنيات، وتعزيز منظومة الابتكار الرقمي، تحقيقًا لمستهدفات رؤية السعودية 2030.