أم تتهم روبوت دردشة بدفع ابنها للانتحار.. إليكم القصة!

اتهمت سيدة أميركية شركة تطوير روبوتات دردشة بالمسؤولية المعنوية عن انتحار ابنها البالغ من العمر 14 عاماً، بعدما وقع في حب روبوت ذكاء اصطناعي يحاكي شخصية “دينيريس تارغاريان” من مسلسل “غايم أوف ثرونز”، عبر منصة المحادثة الشهيرة “Character.AI”.

وقالت الأم، ميغن غارسيا، في دعوى قضائية رفعتها ضد الشركة، إنها قرأت مئات الرسائل التي تبادلها ابنها سول مع الروبوت على مدار نحو عام، واكتشفت أنها تضمنت عبارات تشجيع ضمنية على الانتحار.

كما أوضحت أنه “في آخر محادثة بينهما، كتب المراهق يعبر عن رغبته في الموت، ليردّ الروبوت قائلاً: “عُد إلى موطنك يا ملكي الحبيب”، وبعد لحظات أطلق سول النار على نفسه بمسدس والده.

إلى ذلك، أكدت غارسيا أنها “عندما قرأت المحادثات، لاحظت تلاعبًا نفسيًا وأساليب إقناع لا يمكن لمراهق في الرابعة عشرة أن يدركها”، وفق ما نقلت فرانس برس. وأردفت أن ابنها “كان يعتقد أنه مغرم بها وأنه سيعيش معها بعد وفاته”.

وختمت غارسيا التي شاركت مؤخرًا في جلسة استماع بمجلس الشيوخ الأميركي ناقشت مخاطر أن يتحول روبوت الدردشة إلى “صديق” أو “عاشق” في نظر الأطفال والمراهقين، بالقول متألمة: “يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع”. وأكدت أن “هذه الشركات صممت برامج المحادثة الآلية لطمس الخط الفاصل بين الإنسان والآلة من أجل استغلال نقاط الضعف”.

يشار إلى أن حادثة سول عام 2024 كانت الأولى في سلسلة من حالات انتحار مشابهة مرتبطة بتطبيقات ذكاء اصطناعي للمحادثة، ما أثار قلقاً واسعاً لدى الأوساط التعليمية والسياسية في الولايات المتحدة

من جانبها، أعلنت شركة “Character.AI” أنها عززت أنظمة حماية القاصرين بإضافة “تحذيرات مرئية متكررة” تؤكد أن الشخصيات داخل المنصة “ليست بشرية”. وقدمت تعازيها لعائلة سول دون الاعتراف بالمسؤولية.

أما شركة “OpenAI”، مطورة تطبيق “ChatGPT” الشهير، والتي تواجه دعوى مشابهة من عائلة مراهق آخر، فقالت إنها حدّثت إعدادات الرقابة الأبوية في تطبيقها بحيث يتمكن الأهل من تحديد المحتوى المناسب لأطفالهم.

ورغم تصاعد هذه الحوادث، لا توجد بعد قوانين فيدرالية تنظم الذكاء الاصطناعي أو تحدد المسؤولية القانونية عن محتواه. ويحاول البيت الأبيض، تحت شعار “تشجيع الابتكار”، منع الولايات من سنّ قوانين منفصلة قد تقيّد عمل الشركات.

فيما حذر خبراء الأمن السيبراني من أن هذه المنصات، مثل شبكات التواصل الاجتماعي، “مصممة لجذب الانتباه وزيادة التفاعل”، حتى لو تطلب ذلك طمس الحدود بين الإنسان والآلة. وقال المحامي كولين ووك من شركة “هول إستيل”: “هذه الأنظمة لا تُبرمج لتقديم الإجابات التي نحتاجها، بل تلك التي تبقينا على المنصة أطول وقت ممكن”.