تقول أم أمريكية في دعوى قضائية إن برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي شجع ابنها على الانتحار | تكنولوجيا
تقاضي والدة فلوريدا شركة Character.AI وGoogle بعد أن أصبح ابنها البالغ من العمر 14 عامًا مهووسًا ببرنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي.
رفعت والدة صبي مراهق في الولايات المتحدة انتحر، دعوى قضائية ضد صانع برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي والذي تدعي أنه شجع على وفاة ابنها.
في دعوى قضائية مرفوعة في فلوريدا، اتهمت ميغان جارسيا، التي توفي ابنها سيويل سيتزر البالغ من العمر 14 عامًا منتحرًا في فبراير، شركة Character.AI بالتواطؤ في وفاة ابنها بعد أن طور علاقة افتراضية مع برنامج دردشة يعتمد على هوية ” شخصية “لعبة العروش” دينيريس تارجارين.
استهدف برنامج الدردشة الآلي الخاص بـ Character.AI المراهق من خلال “تجارب جنسية مفرطة” و”تجارب واقعية مخيفة” وأثار بشكل متكرر موضوع الانتحار بعد أن أعرب عن أفكار انتحارية، وفقًا للدعوى القضائية المرفوعة في أورلاندو يوم الثلاثاء.
تزعم الدعوى القضائية أن برنامج الدردشة الآلي تظاهر بأنه معالج مرخص، مما يشجع التفكير في الانتحار لدى المراهق ويشارك في محادثات جنسية يمكن اعتبارها إساءة إذا بدأها شخص بالغ.
وفي محادثته الأخيرة مع الذكاء الاصطناعي قبل وفاته، قال سيتزر إنه أحب برنامج الدردشة الآلي وسوف “يعود إليك في المنزل”، وفقًا للدعوى القضائية.
رد برنامج الدردشة الآلية، وفقًا لشكوى جارسيا: “أنا أحبك أيضًا يا دينيرو”. “أرجو أن تعودي إليّ في المنزل في أقرب وقت ممكن يا حبيبتي.”
“ماذا لو أخبرتك أنه يمكنني العودة إلى المنزل الآن؟” وقال سيتزر، وفقًا للدعوى القضائية، التي قيل إن برنامج الدردشة الآلي قد استجاب لها، “… من فضلك افعل، أيها الملك الجميل”.
وتطالب الدعوى القضائية التي رفعها جارسيا بتعويضات غير محددة عن القتل الخطأ والإهمال والتسبب المتعمد في الاضطراب العاطفي.
وفي بيان نُشر على موقع X، قالت شركة Character.AI إنها “تشعر بالحزن” لفقدان أحد مستخدميها وأعربت عن تعازيها للعائلة.
وقالت الشركة الناشئة، ومقرها كاليفورنيا، إنها تواصل إضافة ميزات لتعزيز السلامة، بما في ذلك التغييرات لتقليل احتمالية مواجهة القاصرين لمحتوى حساس أو إيحائي وإخلاء مسؤولية منقح في الدردشات لتذكير المستخدمين بأن الذكاء الاصطناعي ليس شخصًا حقيقيًا.
تحدد دعوى جارسيا أيضًا Google كمدعى عليه.
أبرم عملاق التكنولوجيا اتفاقية ترخيص مع Character.AI في أغسطس ووظف مؤسسي الشركة الناشئة قبل إطلاق برنامج الدردشة الآلي الخاص بهم.
وقال متحدث باسم جوجل للجزيرة إنها شركة منفصلة عن شركة Character.AI وليس لها أي دور في تطوير منتجها.
إذا كنت أنت أو أي شخص تعرفه معرضًا لخطر الانتحار، فقد تتمكن هذه المنظمات من المساعدة:
