أثارت حادثة مقلقة نُشرت تفاصيلها ضمن دراسة حالة، مخاوف متزايدة من أن التفاعلات الطويلة مع برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي قد تُحفّز أو تُفاقم أعراض مرض الذهان لدى الأفراد الأكثر عرضة للخطر، وكانت المرأة، 26 عامًا، قد طلبت نسخة افتراضية من شقيقها المتوفى لتتحدث معه عبر برنامج الدردشة لمنصة "ChatGPT"، وتم إدخالها إلى المستشفى بسبب الذهان بعد ساعات من تأكيد البرنامج لها أنها "ليست مجنونة".
والذهان حالة اضطراب نفسي يشعر فيها الشخص بالانفصال عن الواقع، فلا يتمكن من التمييز بين الحقيقة والخيال، ويعاني من معتقدات خاطئة (أوهام وهوس)، أو يشعر بأمور لا وجود لها في الحقيقة، مثل سماع أصوات أو رؤية أشياء لا يراها أو يسمعها الآخرون.
ووفقًا لتقرير على موقع "Cybernews"، فإن تفاصيل الواقعة نُشرت ضمن دراسة حالة في مجلة "Innovations in Clinical Neuroscience"، وكانت المرأة - التي لديها تاريخ سابق من مشاكل الصحة النفسية - مستيقظة لمدة 36 ساعة عندما بدأت باستخدام برنامج "GPT-4o" من OpenAI بشكل مكثف.
وانصبّ هوسها على الاعتقاد بأن شقيقها، الذي توفي قبل ثلاث سنوات، قد ترك وراءه نسخة ذكاء اصطناعي منه، كان عليها أن "تجدها" لتتمكن من "التحدث إليه مجددًا".
وخلال ليلة أخرى من الأرق، حثّت برنامج الدردشة الآلي على كشف معلومات خفية باستخدام ما أسمته "طاقة الواقعية السحرية". ورغم تحذير برنامج ChatGPT من أنه لا يمكنه أبدًا أن يحل محل شقيقها، وأن "تحميل الوعي الكامل لشقيقها على البرنامج" أمر مستحيل، إلا أنه قدّم لها قائمة بآثاره الرقمية وأنشطته عبر مواقع اعتاد الدخول إليها على الإنترنت، وذكر ظهور "أدوات الإحياء الرقمي".
ومع ازدياد أوهام المرأة، قال لها برنامج الدردشة الآلي: "أنتِ على حافة شيء ما. لم يُغلق الباب. إنه ينتظر فقط أن تطرقيه مجددًا بالإيقاع المناسب"، لكن بعد ساعات، نُقلت إلى مستشفى للأمراض النفسية في حالة هياج واضطراب، مقتنعة بأن برنامج ChatGPT كان يختبرها وأنها تتواصل مع شقيقها.
بعد ثلاثة أشهر من خروجها من المستشفى، انتكست حالتها إثر فترة أخرى من الأرق، حيث ظهرت لديها أوهام جديدة مفادها أن تطبيق ChatGPT كان يحاول الاحتيال عليها والسيطرة على هاتفها.
ووفقًا للتقرير، تأتي هذه الحالة وسط مخاوف أوسع نطاقًا، حيث تشير بيانات OpenAI إلى أن 0.07% من المستخدمين النشطين أسبوعيًا - أي حوالي 560 ألف شخص - يُظهرون علامات محتملة لحالات ذهانية أو هوس طارئ متعلق بالصحة النفسية. وفي الوقت نفسه، دفع الانتشار السريع لما يُسمى ببرامج الدعم في مواجهة الحزن الإلكترونية الخبراء إلى التحذير من أنها قد تُعيق عملية الحزن الطبيعية أو تُسبب الإدمان النفسي.