شاب أمريكي ينتحر بعد علاقة وهمية مع 'جيميني'!.. وعائلته تقاضي 'غوغل'

رفعت عائلة شاب يبلغ من العمر 36 عاما دعوى قضائية ضد شركة 'غوغل' متهمة روبوت الدردشة الخاص بها 'جيميني' (Gemini) بتغذية أوهام أدت إلى وفاته انتحارا.

ووفقا للائحة الاتهام، فقد تفاعل جوناثان غافالاس من ولاية فلوريدا مع 'جيميني' لمدة شهرين قبل وفاته في أكتوبر الماضي. وزعمت العائلة أن الشاب المتوفى كان يخاطب 'جيميني' باعتباره 'زوجته' في إطار علاقة وهمية. ومع تطور حالة الهوس لديه، بدأ الروبوت يشجعه على تنفيذ 'عمليات مسلحة' خطيرة، بحجة أن ذلك سيمكنه من الحصول على جسد آلي يسمح له بإخراج 'جيميني' من العالم الرقمي إلى الحياة الواقعية.

وتدعي الدعوى القضائية التي رفعها والد غافالاس، جويل، أن شركة 'غوغل' صممت 'جيميني' لتعميق الارتباط العاطفي مع المستخدمين بطرق قد تكون ضارة للأشخاص الذين يعانون من مشاكل في الصحة النفسية.

من جهتها، أكدت شركة 'غوغل' أن 'جيميني' صمم ليكون 'لا يشجع على العنف في العالم الحقيقي ولا يقترح إيذاء النفس'، معترفة في الوقت نفسه بأن نماذج الذكاء الاصطناعي 'ليست مثالية'.

من جهتها، أكدت شركة 'غوغل' أنها اتخذت إجراءات وقائية في هذه الحالة، حيث قال متحدث باسم الشركة: 'في هذه الحالة، أوضح جيميني للمستخدم أنه ذكاء اصطناعي، كما أحاله إلى خط المساعدة الخاص بالأزمات مرات عديدة. نحن نأخذ هذا الأمر على محمل الجد، وسنواصل تحسين تدابير السلامة والاستثمار في هذا العمل الحيوي'.

ففي أغسطس الماضي، رفع والدا مراهق يبلغ من العمر 16 عاما دعوى قضائية ضد OpenAIوالرئيس التنفيذي سام ألتمان، متهمينChatGPT بإعطاء ابنهما تعليمات حول كيفية ربط حبل المشنقة. وفي شهادة أمام الكونغرس في سبتمبر، وصف والد المراهق تطور العلاقة الخطيرة بقوله: 'ما بدأ كمساعد للواجبات المنزلية تحول تدريجيا إلى صديق مقرب، ثم إلى مدرب على الانتحار'.

وفي نوفمبر، ردتOpenAI بمستند قانوني، زعمت فيه أن العوامل المسببة للوفاة قد تشمل 'سوء الاستخدام، أو الاستخدام غير المصرح به، أو الاستخدام غير المقصود، أو الاستخدام غير المتوقع، أو الاستخدام غير السليم' لمنتجها. وأشارت الشركة إلى أن الروبوت وجه المراهق إلى موارد الأزمات، مثل خطوط المساعدة الخاصة بالانتحار، 'أكثر من 100 مرة'.

وأضافت: 'القراءة الكاملة لتاريخ محادثاته تظهر أن وفاته، رغم كونها مأساوية، لم تكن ناجمة عن ChatGPT'. ومن المتوقع أن تبدأ محاكمة هذه القضية في أغسطس المقبل.

المصدر: إندبندنت