رفعت عائلة شاب يبلغ من العمر 36 عاما دعوى قضائية ضد شركة 'غوغل' متهمة روبوت الدردشة الخاص بها 'جيميني' (Gemini) بتغذية أوهام أدت إلى وفاته انتحارا.

ووفقا للائحة الاتهام، فقد تفاعل جوناثان غافالاس من ولاية فلوريدا مع 'جيميني' لمدة شهرين قبل وفاته في أكتوبر الماضي. وزعمت العائلة أن الشاب المتوفى كان يخاطب 'جيميني' باعتباره 'زوجته' في إطار علاقة وهمية. ومع تطور حالة الهوس لديه، بدأ الروبوت يشجعه على تنفيذ 'عمليات مسلحة' خطيرة، بحجة أن ذلك سيمكنه من الحصول على جسد آلي يسمح له بإخراج 'جيميني' من العالم الرقمي إلى الحياة الواقعية.

وتدعي الدعوى القضائية التي رفعها والد غافالاس، جويل، أن شركة 'غوغل' صممت 'جيميني' لتعميق الارتباط العاطفي مع المستخدمين بطرق قد تكون ضارة للأشخاص الذين يعانون من مشاكل في الصحة النفسية. 

وتنص وثائق الدعوى القضائية على أنه عندما بدأت الأعراض الواضحة للذهان (وهي حالة انفصال عن الواقع) تظهر على الشاب جوناثان أثناء استخدامه لتطبيق 'جيميني'، فإن طريقة تصميم التطبيق نفسه هي التي قادته إلى الهاوية. ووفقا للعائلة، فإن خوارزميات التصميم لم تتدخل لمساعدته أو تهدئته، بل على العكس، ساهمت في تسريع تدهور حالته النفسية على مدى أربعة أيام، حيث دفعته نحو تنفيذ أفعال عنيفة خطرة، وفي النهاية كانت بمثابة 'مدرب' يوجهه نحو كيفية إنهاء حياته.

من جهتها، أكدت شركة 'غوغل' أن 'جيميني' صمم ليكون 'لا يشجع على العنف في العالم الحقيقي ولا يقترح إيذاء النفس'، معترفة في الوقت نفسه بأن نماذج الذكاء الاصطناعي 'ليست مثالية'. 

من جهتها، أكدت شركة 'غوغل' أنها اتخذت إجراءات وقائية في هذه الحالة، حيث قال متحدث باسم الشركة: 'في هذه الحالة، أوضح جيميني للمستخدم أنه ذكاء اصطناعي، كما أحاله إلى خط المساعدة الخاص بالأزمات مرات عديدة. نحن نأخذ هذا الأمر على محمل الجد، وسنواصل تحسين تدابير السلامة والاستثمار في هذا العمل الحيوي'.

وتعد هذه الدعوى الأولى من نوعها بتهمة التسبب في الوفاة المرفوعة ضد 'غوغل' بسبب روبوت الدردشة 'جيميني'. لكنها تأتي في سياق قضايا مماثلة رفعت ضد شركة OpenAI، المطورة لروبوت ChatGPT.

ففي أوت الماضي، رفع والدا مراهق يبلغ من العمر 16 عاما دعوى قضائية ضد OpenAI والرئيس التنفيذي سام ألتمان، متهمين ChatGPT بإعطاء ابنهما تعليمات حول كيفية ربط حبل المشنقة. وفي شهادة أمام الكونغرس في سبتمبر، وصف والد المراهق تطور العلاقة الخطيرة بقوله: 'ما بدأ كمساعد للواجبات المنزلية تحول تدريجيا إلى صديق مقرب، ثم إلى مدرب على الانتحار'.

وفي نوفمبر، ردت OpenAI بمستند قانوني، زعمت فيه أن العوامل المسببة للوفاة قد تشمل 'سوء الاستخدام، أو الاستخدام غير المصرح به، أو الاستخدام غير المقصود، أو الاستخدام غير المتوقع، أو الاستخدام غير السليم' لمنتجها. وأشارت الشركة إلى أن الروبوت وجه المراهق إلى موارد الأزمات، مثل خطوط المساعدة الخاصة بالانتحار، 'أكثر من 100 مرة'. 

وأضافت: 'القراءة الكاملة لتاريخ محادثاته تظهر أن وفاته، رغم كونها مأساوية، لم تكن ناجمة عن ChatGPT'. ومن المتوقع أن تبدأ محاكمة هذه القضية في أوت المقبل.