انتحار مراهق يثير معضلة حول تحديد المسؤولية القانونية لأذى روبوتات الدردشة

قالت ميغان غارسيا إن ابنها البالغ من العمر 14 كان سيظل على قيد الحياة لولا أن حثه روبوت دردشة على الانتحار.

وفي دعوى قضائية ذات تداعيات كبيرة على وادي السيليكون، تسعى غارسيا إلى تحميل 'غوغل' وشركة الذكاء الاصطناعي 'Character Technologies' مسؤولية وفاته.

وتُعدّ القضية المتعلقة بالحادثة، التي وقعت قبل عام في وسط فلوريدا، اختبارًا مبكرًا لتحديد المسؤول قانونيًا عندما تتخذ تفاعلات الأطفال مع الذكاء الاصطناعي التوليدي منعطفًا غير متوقع، بحسب تقرير لوكالة 'بلومبرغ'، اطلعت عليه 'العربية Business'.

وتطالب غارسيا في دعواها بتعويضات مالية غير محددة من 'غوغل' وشركة 'Character Technologies'، وتطلب من المحكمة إصدار تحذيرات بأن المنصة غير مناسبة للقاصرين، وتقييد طريقة جمع بياناتهم واستخدامها.

فيما تطلب الشركتان من القاضي رفض الادعاءات بفشلهما في ضمان أمان تقنية روبوت الدردشة للمستخدمين الصغار، بحجة عدم وجود أساس قانوني لاتهامهما بارتكاب مخالفات.

تُصرّ شركة 'Character Technologies' في ملفّها على أن المحادثات بين روبوتات الدردشة عبر منصتها 'Character.AI' والمستخدمين محمية بموجب التعديل الأول للدستور الأميركي باعتبارها حرية تعبير. كما تُجادل بأن روبوت الدردشة ثبط صراحةً نجل غارسيا عن الانتحار.

لماذا غوغل؟

يُعدّ استهداف غارسيا لغوغل ذا أهمية خاصة. وأبرمت 'غوغل'، التابعة لشركة ألفابت، صفقة بقيمة 2.7 مليار دولار مع 'Character.AI' في أغسطس، حيث استقطبت المواهب من الشركة الناشئة ورخصت لها الخبرة الفنية دون إتمام عملية استحواذ كاملة.

ومع تسارع المنافسة على المواهب في مجال الذكاء الاصطناعي، قد تُعيد الشركات الأخرى النظر في إبرام صفقات مماثلة إذا فشلت '‘غوغل' في إقناع القاضي بضرورة حمايتها من المسؤولية عن الأضرار المزعومة التي تُسببها منتجات 'Character.AI'.

وقبل إبرام الصفقة، استثمرت 'غوغل' في 'Character.AI' مقابل سند قابل للتحويل، كما أبرمت اتفاقية خدمة سحابية مع الشركة الناشئة. كان مؤسسو 'Character.AI' موظفين في 'غوغل' حتى تركوا عملاق التكنولوجيا لتأسيس الشركة الناشئة.

ماذا حدث؟

كان سيويل سيتزر طالبًا رياضيًا واعدًا في المدرسة الثانوية حتى بدأ في أبريل 2023 استخدام تطبيق 'Character.AI'، التي يتيح للمستخدمين إنشاء روبوتات دردشة تحاكي شخصيات الثقافة الشعبية حقيقية كانت أم خيالية.

وقالت والدته إنه على مدار عدة أشهر، أغرى التطبيق ابنها بتجارب 'مجسمة، مفرطة في الجنس، وواقعية بشكل مخيف' عندما وقع في حب روبوت دردشة مستوحى من دينيريس تارغاريان، إحدى شخصيات مسلسل صراع العروش.

أخذت غارسيا هاتف الصبي في فبراير 2024 بعد أن بدأ يتصرف بشكل سيء وينعزل عن أصدقائه. لكن أثناء بحثه عن هاتفه، الذي عثر عليه لاحقًا، عثر أيضًا على مسدس زوج والدته المخفي.

وبعد خمسة أيام من التشاور مع روبوت الدردشة دينيريس، أطلق المراهق النار على رأسه.

هل غوغل مسؤولة؟

يقول محامو غارسيا في الدعوى إن شركة غوغل 'ساهمت بموارد مالية وموظفين وحقوق ملكية فكرية وتكنولوجيا ذكاء اصطناعي في تصميم وتطوير' روبوتات الدردشة الخاصة بـ 'Character.AI'.

ودفعت 'غوغل' في وثائق قضائية في يناير بأنها 'لم يكن لها أي دور' في انتحار المراهق، وأنها 'ليست جزءًا من القضية'.

وتدور أحداث القضية في الوقت الذي لفتت فيه قضايا السلامة العامة المتعلقة بالذكاء الاصطناعي والأطفال انتباه مسؤولي إنفاذ القانون في الولايات والوكالات الفيدرالية على حد سواء.

ولا يوجد حاليًا أي قانون أميركي يحمي المستخدمين صراحةً من الأذى الذي تُلحقه روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.

ولإثبات مسؤولية 'غوغل' سيتعين على محامي غارسيا إثبات أن عملاق البحث كان يدير بالفعل 'Character.AI' وأن 'غوغل' اتخذت قرارات تجارية أدت في النهاية إلى وفاة ابنها، وفقًا لشيلا لونيغ، المحامية التي تقدم المشورة للشركات الناشئة والمستثمرين في مجال الذكاء الاصطناعي، والتي لم تشارك في الدعوى القضائية.

وتزعم الدعوى أيضًا أن 'غوغل' ساعدت في تسويق تقنية الشركة الناشئة من خلال شراكة استراتيجية في عام 2023 لاستخدام خدمات 'غوغل' السحابية للوصول إلى عدد متزايد من مستخدمي 'Character.AI' النشطين، والذين تجاوز عددهم الآن 20 مليونًا.