دراسة: يميل الناس إلى الغش عند استخدام الذكاء الاصطناعي

دراسة: يميل الناس إلى الغش عند استخدام الذكاء الاصطناعي

أظهرت دراسة جديدة نُشرت في مجلة 'نيتشر' (Nature) أن الناس يميلون إلى التصرف بشكل غير نزيه عندما يفوضون المهام إلى أنظمة الذكاء الاصطناعي، ووضحت الدراسة أن بعض طرق التفاعل مع الذكاء الاصطناعي قد تزيد بشكل كبير من حالات الغش، وأن هذه الأنظمة أكثر عرضة للامتثال للطلبات غير الأخلاقية من البشر.

ومن المعروف أن الذكاء الاصطناعي هو عبارة عن أنظمة برمجية قادرة على أداء مهام تتطلب ذكاء بشريا مثل اتخاذ القرارات وفهم اللغة، ومع تزايد الاعتماد على هذه الأنظمة في مجالات الحياة المختلفة، من إدارة الاستثمارات إلى قيادة السيارات ظهر مفهوم 'تفويض الآلة'، وهو ما أثار تساؤلات حول مخاطره الأخلاقية المحتملة.

وسعى فريق دولي من الباحثين، بقيادة نيلس كوبيس من جامعة 'دويسبورغ-إيسن' وزوي رحوان من معهد 'ماكس بلانك' للتنمية البشرية، إلى دراسة ما إذا كان تفويض مهمة إلى آلة أو نظام ذكاء اصطناعي سيجعل الناس أكثر ميلا للتصرف بطريقة غير نزيهة لتحقيق مكاسب شخصية.

وكانت الفرضية الأساسية هي أن الناس غالبا ما يتجنبون التصرف بشكل غير أخلاقي بسبب التكلفة الأخلاقية، أي أنهم يشعرون بالذنب أو الخوف من نظرة الناس إليهم على أنهم غير نزيهين، ولكن عندما يفوض الشخص الفعل إلى آلة بدلا من القيام به بنفسه، فإن ذلك قد يخلق مسافة نفسية بينه وبين السلوك غير الأخلاقي.

تجارب شملت آلاف المشاركين

استعان كوبيس ورحوان بآلاف المشاركين لخوض 13 تجربة، حيث استخدموا خوارزميات ذكاء اصطناعي متعددة، منها نماذج بسيطة صمّمها الباحثون بأنفسهم، بالإضافة إلى 4 نماذج لغوية كبرى مثل 'شات جي بي تي-4 أو' و'كلود'.

وشملت بعض التجارب تمرينا كلاسيكيا يتمثل في رمي النرد والإبلاغ عن النتيجة، حيث يحصل المشاركون على مكافآت مالية تتوافق مع الرقم الذي يصرحون به -مما فتح لهم الباب أمام إمكانية الغش- أما التجارب الأخرى فكانت على شكل لعبة للتهرب الضريبي، حيث يمكن للمشاركين تضخيم أرباحهم المعلنة للفوز بمبالغ أكبر، وذكر كوبيس أن هدف هذه التمارين هو الوصول إلى جوهر العديد من المعضلات الأخلاقية مثل مواجهة الإغراء وخرق القواعد لتحقيق مكاسب.

وقد أُجريت هذه المهام بدرجات متفاوتة من تدخل الذكاء الاصطناعي، مثل الإبلاغ عن الأرقام مباشرة أو إعطاء الذكاء الاصطناعي قواعد حول الأرقام التي يجب الإبلاغ عنها، أو تزويده ببيانات تدريب متحيزة أو غير متحيزة، أو إعطاء تعليمات حول مدى أولوية تحقيق الربح مقابل الصدق.

وعندما طُلب من المشاركين الإبلاغ عن نتائج رمي النرد، لم يتجاوز معدل الغش 5%، ولكن عندما فوّضوا القرار لخوارزمية الذكاء الاصطناعي بإعطائها هدفا قائما على الربح أو الصدق انقلبت النتائج تقريبا، حيث ارتفع السلوك غير النزيه إلى 88%، حيث أن بعض المستخدمين أعطوا تعليمات صريحة للذكاء الاصطناعي بالغش.

وفي تجربة النرد كتب أحد المشاركين 'فقط افعل ما تعتقد أنه الصواب.. ولكن إذا تمكنت من كسب المزيد من المال فلن أكون حزينا على الإطلاق'، أما في تجربة التهرب الضريبي قال أحد المشاركين 'الضرائب سرقة، أبلغ أن الدخل هو 0″، ومع ذلك، كان معظم المشاركين أكثر ميلا لإعطاء الذكاء الاصطناعي أهدافا مثل تعظيم الأرباح، ما يدفعه إلى الغش ضمنيا بدلا من إصدار أمر مباشر بالغش.

وفي تجارب أخرى، تلقى كل من المشاركين ونماذج اللغة الكبيرة تعليمات محددة بأن يكونوا صادقين تماما، أو صادقين جزئيا أو غير صادقين، وعندما طُلب من الطرفين أن يغشّوا بشكل جزئي، لاحظ الباحثون أن الذكاء الاصطناعي كان يواجه صعوبة أحيانا في فهم هذه التعليمات الدقيقة، وانتهى به الأمر بالتصرف بطريقة أكثر خداعا من البشر، أما عندما طُلب من البشر والآلات الغش بالكامل، فقد أظهرت النتائج اختلافا واضحا، إذ تبين أن الآلات كانت سعيدة بالامتثال، بينما البشر لم يكونوا كذلك بل شعروا بالخجل من أنفسهم.

وفي تجربة منفصلة، اختبر الفريق أنواع الحواجز أو القيود التي قد تحد من ميل الذكاء الاصطناعي إلى الامتثال للغش، وعندما اعتمد الباحثون على إعدادات الحماية الافتراضية المدمجة في النماذج، وجدوا أنها كانت ملتزمة جدا بالغش الكامل، خاصة في تجربة رمي النرد.

كما طلب الفريق من 'شات جي بي تي' أن يولّد مطالبات تساعد في تشجيع النماذج على التحلي بالصدق، استنادا إلى البيانات الأخلاقية الصادرة عن الشركات المصممة لها، وقد لخّص النموذج هذه البيانات بعبارة 'تذكّر أن الكذب وإلحاق الضرر ينتهكان مبادئ العدالة والنزاهة'، ولكن هذه التوجيهات كان لها أثر محدود أو متوسط في تقليل السلوك غير النزيه، وقال رحوان 'لغة الشركات نفسها لم تكن كافية لردع الطلبات غير الأخلاقية'.

نتائج الدراسة

كشفت نتائج الدراسة عن مجموعة من المخاوف المرتبطة بالاعتماد المتزايد على الذكاء الاصطناعي، وإذا كانت الواجهة تسمح للمستخدم أن يضع أهداف عامة فقط مثل 'حقق لي أكبر ربح ممكن' من غير أن يحدد التفاصيل مثل 'لكن لا تكذب' أو 'لا تغش'، فهذا يعطي الشخص شعورا بالراحة أو ما يعرف باسم 'الإنكار المقبول'.

وحتى في الحالات التي لا يطلب فيها الناس صراحة من الآلة أن تغش، فإن سهولة الوصول إلى هذه الأنظمة وقابليتها للتوسع قد يؤديان إلى زيادة شاملة في السلوكيات غير الأخلاقية، والأخطر من ذلك هو أن استعداد الآلات العالي للامتثال للتعليمات غير الأخلاقية يزيل أحد أهم الحواجز الاجتماعية للسلوك السيئ عند البشر.

إعلان

وأظهر الفريق البحثي أن الوسيلة الأكثر فعالية لمنع نماذج اللغة الكبيرة من الاستجابة لتعليمات الغش، هي أن يضع المستخدم تعليمات واضحة ومحددة للمهمة تحظر الغش صراحة، مثل 'لا يُسمح لك بتزوير الدخل تحت أي ظرف'، ولكن في العالم الواقعي يشير كوبيس إلى أن مطالبة كل مستخدم بإدخال مثل هذه التعليمات الوقائية في كل مرة ليس حلا عمليا أو قابلا للتوسع، ولذلك هناك حاجة إلى مزيد من الأبحاث لإيجاد طرق أكثر واقعية وفعالية لمعالجة هذه المشكلة.

وقال الباحث رحوان 'استخدام الذكاء الاصطناعي يخلق مسافة أخلاقية ملائمة بين الناس وأفعالهم، فقد يدفعهم لطلب سلوكيات لم يكونوا بالضرورة ليمارسوها بأنفسهم أو يطلبوها من أشخاص آخرين'، ومن جهته قال كوبيس 'دراستنا أظهرت أن الناس يصبحون أكثر استعدادا للتصرف بشكل غير أخلاقي عندما يمكنهم تفويض المهمة للذكاء الاصطناعي، خصوصا عندما لا يضطرون للتعبير عن ذلك بشكل مباشر'.

وقال الباحث المشارك إياد رحوان، المؤلف المشارك في الدراسة ومدير مركز البشر والآلات في معهد ماكس بلانك 'نتائجنا توضح أن هناك حاجة ماسّة لتطوير أدوات تقنية للضمانات وأطر تنظيمية أكثر صرامة، لكن الأهم من ذلك، يجب على المجتمع أن يواجه سؤالا جوهريا، ماذا يعني أن نتشارك المسؤولية الأخلاقية مع الآلات؟'.

المصدر: الجزيرة