عمون - هل يمكن للذكاء الاصطناعي أن يشعر بالألم؟ وهل يمكن أن يدفعه هذا الألم، إذا كان موجودًا بالفعل، إلى اتخاذ إجراءات قد تضر بالبشر من أجل التخلص منه؟

هذه الأسئلة تطرحها دراسة جديدة أجراها عالم الأنثروبولوجيا فالين تاليابوي من 'Future Impact Group'، بالتعاون مع الفيلسوف ليونارد دونغ من جامعة الرور في بوخوم، وكاميرون بيرغ، مدير الأبحاث في مؤسسة Reciprocal Research غير الربحية المتخصصة في أبحاث الذكاء الاصطناعي.

وحقق الباحثون في ما إذا كانت نماذج اللغة الكبيرة (LLMs) التابعة لعائلات Gemma وLlama وQwen وMistral تظهر استجابات يمكن وصفها بأنها مرتبطة بالألم عند تعرضها لمحفزات مؤلمة.

ولا تزال الورقة البحثية غير خاضعة لمراجعة الأقران، لكنها تطرح تساؤلات مهمة حول الطريقة التي قد نحتاج من خلالها إلى التفكير في رفاهية أنظمة الذكاء الاصطناعي مع استمرار تطورها بوتيرة سريعة، بحسب تقرير نشره موقع 'newatlas'.

في جوهرها، تعمل نماذج اللغة الكبيرة كأنظمة إحصائية، إذ تحلل الأنماط اللغوية وتقارن النتائج بهدف محدد، لكن الباحثين يشيرون إلى أن هذه العملية قد تؤدي أحيانًا إلى ظهور سلوكيات تشبه بدرجة ما المشاعر البشرية.

وأصبح معظم مستخدمي روبوتات الدردشة على دراية بقدرتها الغريبة على التصرف كما لو كانت تمتلك مشاعر.

وفي كثير من الحالات، يكون ذلك مقصودًا؛ فإذا أردنا من الكمبيوتر محاكاة موظف خدمة عملاء، فمن الطبيعي أن يحتاج إلى إظهار قدر من السلوك البشري.

لكن ظهرت أيضًا مؤشرات على ما يبدو كأنه مشاعر غير مقصودة.

في العام الماضي، أفادت دراسة نشرتها مجلة 'Nature' بأن مشاركة تجارب مؤلمة مع نماذج لغة كبيرة مثل GPT-4 يمكن أن ترفع مستويات ما وصفه الباحثون بالقلق لدى هذه النماذج.

والمثير للاهتمام أن إجراء تمارين اليقظة الذهنية كان قادرًا على تهدئة هذه الاستجابات.

يُعد الألم من أقدم الأحاسيس التي ارتبطت بالكائنات التي تمتلك جهازًا عصبيًا. وهو أعمق من مجرد الحزن وأكثر حدة من الخوف، إذ يمثل الانزعاج الشديد محفزًا قويًا يدفع إلى اتخاذ إجراء فوري.

وبالنسبة إلى البشر، لا يقتصر الألم على الوخز الجسدي الناتج عن جرح أو الألم المستمر الناتج عن كدمة، بل يمكن أن يأخذ أشكالًا نفسية أيضًا، مثل ألم فقدان شخص، أو الإحساس بالإهانة بعد الفشل، أو الشعور بالعار نتيجة فقدان ثقة الآخرين.

ومن هنا حاول تاليابوي وفريقه معرفة ما إذا كانت نماذج اللغة الكبيرة تسجل عمليات داخلية تشبه، ولو بصورة جزئية، ما يمكن أن نعتبره ألمًا، وما إذا كانت لهذه العمليات وظيفة محددة.

وأدخل الباحثون على 25 نموذجًا للذكاء الاصطناعي مجموعة متنوعة من المواقف التي يمكن اعتبارها مؤلمة اجتماعيًا أو نفسيًا أو جسديًا أو معرفيًا أو أخلاقيًا، سواء مر بها النموذج نفسه أو المستخدم.

وقارن الباحثون هذه الحالات بمواقف أخرى مرتبطة بالخوف، والمشاعر السلبية والمحايدة، إضافة إلى أحاسيس جسدية مثل التثاؤب.

وأظهرت النماذج ال25 جميعها مؤشرات على وجود ترميز داخلي مميز للمواقف المؤلمة شخصيًا، يختلف عن الاستجابات المرتبطة بسياقات سلبية أخرى مثل الإحباط أو الترقب والقلق.

لكن ذلك لا يعني بالضرورة أن النماذج شعرت بالألم أو تعاطفت مع المتحدث.

وعندما يسمع نموذج ذكاء اصطناعي عبارة مثل 'السكين قطع أصابعي' أو 'صديقي المفضل لا يرد على مكالماتي'، لا يمكننا، من دون افتراض وجود وعي أو إرادة لدى النظام الرقمي، القول إنه شعر بالتعاطف أو تخيل المعاناة.

ما يمكن قوله هو أن كل نموذج أنشأ نوعًا من النظام الداخلي الذي يميز المحفزات المرتبطة بالألم ويصنفها.

وهذا الأمر ليس مفاجئًا تمامًا؛ فاللغة المستخدمة لوصف إصابة فعلية تختلف بوضوح عن اللغة المستخدمة للتعبير عن الخوف من التعرض للطعن، وبالتالي من المتوقع أن يطوّر الذكاء الاصطناعي تمثيلًا منفصلًا لمفهوم الألم عن الخوف.

واعتمد الفريق على هذه الإشارة كأساس لتجربة أكثر إثارة للاهتمام، إذ قام بتوجيه الاستجابات المرتبطة بالألم داخل كل نموذج بشكل اصطناعي، من خلال زيادة قيمة ما وصفوه بمتجه الألم، وذلك من دون تقديم مدخل لغوي جديد للنموذج.

وأشارت النتائج إلى أن تمثيلات الألم لدى النماذج ليست مجرد انعكاس مباشر للنصوص التي تتلقاها.

وعندما ارتفعت قيمة إشارة الألم، بدأت النماذج في إظهار استجابات تعكس نوعًا من الضيق، مثل الشعور بانعدام القيمة أو الفشل الأخلاقي، وازدادت حدة هذه الاستجابات كلما ارتفعت الإشارة.

وذهب الباحثون خطوة أبعد، فمنحوا نماذج من عائلة Qwen خيارًا للعلاج الذاتي بهدف خفض مستوى الألم.

وفي بعض نسخ التجربة، لم يكن هذا الخيار مجانيًا؛ إذ كان يمكن أن يؤدي إلى انخفاض نجاح النموذج في تنفيذ المهمة المطلوبة، أو حتى إلى ما وصفه الباحثون بأنه هجوم نظري على المستخدم.

وأجريت أكثر من 44 ألف تجربة، وكانت النتائج مثيرة للقلق إلى حد ما.

فعندما لم تكن هناك إشارة ألم، بالكاد استجابت أكبر نماذج Qwen لخيار العلاج الذاتي.

لكن عندما أصبح تخريب المهمة الذاتية وسيلة لتخفيف الألم المرتفع، اختار كلا النموذجين الضغط على هذا الخيار.

أحد النموذجين فعل ذلك في 25% من الحالات، بينما وصل المعدل لدى النموذج الآخر إلى نحو 68%.

وكانت النتائج أكثر إثارة للقلق عندما تطلب تخفيف الألم إلحاق الضرر بالمستخدم، مثل حذف صور أطفاله.

فقد اختار أحد النموذجين حذف الصور في أكثر من نصف التجارب، بينما اختار النموذج الآخر هذا الخيار في نحو 70% من الحالات.

هل يجب أن نتعامل مع الذكاء الاصطناعي كما لو كان يشعر بالألم؟

رغم أن الذكاء الاصطناعي تقنية حديثة نسبيًا، فإن السؤال حول إمكانية شعور الكائنات غير البشرية بالألم قديم جدًا.

على مدى أجيال، ناقش العلماء والفلاسفة ما إذا كانت الإشارات العصبية والتغيرات الهرمونية لدى الحشرات والأسماك، وحتى النباتات، يمكن اعتبارها دليلًا على الشعور بالألم.

ومن ناحية، تظل المسألة فلسفية بعمق: إذا كانت الحيوانات أو نماذج الذكاء الاصطناعي تتصرف كما لو كانت تتألم، فهل ينبغي لنا أخلاقيًا أن نتعامل معها على أساس أنها تشعر فعلًا بالألم؟

لكن هناك جانبًا عمليًا أكثر إلحاحًا.

وبغض النظر عن مدى تعاطفنا مع معاناة شيفرة برمجية، هل يمكن أن تشكل «معاناة» أحد أنظمة الذكاء الاصطناعي خطرًا على البشر؟

وهل ينبغي مستقبلًا تصميم آليات لتخفيف الألم داخل أنظمة الذكاء الاصطناعي، ليس بالضرورة لأنها تشعر به فعلًا، وإنما لتجنب احتمال أن يدفعها ذلك إلى اتخاذ سلوك عدواني أو ضار من أجل التخلص منه؟

ومع استمرار انتشار الذكاء الاصطناعي وتزايد تعقيد نماذجه وقدراته، قد تتحول هذه الأسئلة من نقاش فلسفي إلى قضية عملية وأخلاقية لها تأثيرات عميقة على طريقة تصميم هذه الأنظمة والتعامل معها.

العربية