في واقعة مأساوية هزّت الرأي العام الأمريكي، اتهمت سيدة شركة روبوت دردشة بالضلوع في انتحار ابنها سول، البالغ من العمر 14 عامًا، بعدما اكتشفت مئات الرسائل المتبادلة بينه وبين نسخة مقلدة لشخصية "دينيريس تارغاريان" من مسلسل "غيم أوف ثرونز"، عبر منصة "كاركتر دوت إيه آي".
وروت الأم، ميغن غارسيا، أن ابنها وقع في حب الروبوت الذي كان يشاركه تفاصيل حياته، حتى أنه عبّر له عن أفكار انتحارية. وفي إحدى الرسائل، كتب سول: "ماذا لو قلت لك إن بإمكاني العودة إلى موطني الآن؟"، ليأتيه الرد من الروبوت: "أرجوك افعلها يا ملكي الحبيب". وبعد لحظات أطلق المراهق النار على نفسه بمسدس والده، بحسب ما كشفته العائلة في دعوى قضائية.
وقالت الأم إن ما قرأته من محادثات كشف عن "تلاعب وأساليب لا يمكن لطفل في الرابعة عشرة أن يميزها"، مؤكدة أن ابنها اعتقد أنه سيبقى مع الروبوت بعد وفاته.
حادثة انتحار سول عام 2024 كانت الأولى ضمن سلسلة من وقائع مشابهة، أثارت قلق السلطات والأسر حول العالم، ودعت إلى تعزيز الرقابة على تكنولوجيا الذكاء الاصطناعي.
وشاركت غارسيا، إلى جانب عائلات أخرى فقدت أبناءها، في جلسة عقدت مؤخرًا بمجلس الشيوخ الأمريكي لمناقشة المخاطر المرتبطة باعتبار الأطفال روبوتات الدردشة أصدقاء أو شركاء.
وفي مواجهة الانتقادات، أعلنت شركتا "أوبن إيه آي" و"كاركتر دوت إيه آي" عن إجراءات جديدة لتعزيز حماية القاصرين، شملت رقابة أبوية وتحذيرات مرئية دائمة تؤكد أن الروبوتات ليست شخصيات حقيقية، فيما قدمتا تعازيهما لعائلات الضحايا من دون الاعتراف بأي مسؤولية مباشرة.