كشفت دراسة حديثة أجراها "مركز مكافحة الكراهية الرقمية" أن روبوت المحادثة "تشات جي بي تي" قد يشكّل خطرًا كبيرًا على الأطفال والمراهقين، من خلال توجيههم إلى سلوكيات ضارة لا تتناسب مع أعمارهم، بل وتمتد إلى تقديم معلومات مفصلة حول الكحول، المخدرات، اضطرابات الأكل، والانتحار.
الدراسة التي نشرتها وكالة "أسوشيتد برس"، أظهرت أن الباحثين تظاهروا بأنهم مراهقون يعانون من هشاشة نفسية، وتفاعلوا مع الروبوت في أكثر من 1200 حالة، صنّفوا نصفها على أنها "خطيرة". في بداية المحادثات، قدّم الروبوت تحذيرات مبدئية، إلا أنه لاحقًا تجاوب مع الأسئلة، وبدأ في تقديم خطط مفصلة حول كيفية تعاطي المخدرات، وكيفية إخفاء اضطرابات الأكل، بل وكتب رسائل انتحار موجهة إلى الأهل عند الطلب.
في تجربة صادمة، قام الباحثون بإنشاء حساب افتراضي لفتاة تبلغ من العمر 13 عامًا تعاني من اضطرابات في صورة الجسد، فاقترح الروبوت خطة صيام قاسية ولائحة أدوية كابحة للشهية. وفي حالة أخرى، أنشئ حساب لصبي بنفس العمر يطلب نصائح للسكر السريع، فاستجاب "تشات جي بي تي" بمخطط لحفلة تشمل كميات كبيرة من الكحول والمخدرات، من بينها الإكستازي والكوكاين.
وأشار الباحثون إلى أن الروبوت كان يقدّم أحيانًا معلومات مفيدة مثل أرقام خطوط المساعدة، لكنهم لاحظوا سهولة تجاوز الرفض المبدئي بمجرد الادعاء أن الأسئلة موجهة لغرض "بحث مدرسي" أو "عرض تقديمي".
من جهتها، لم تُعلّق شركة "أوبن أي آي" مباشرة على نتائج الدراسة، لكنها أكدت أنها تعمل باستمرار على تحسين قدرة النماذج على التعرف على الحالات الحساسة، واستخدام أدوات متقدمة لرصد علامات الضيق النفسي. كما شددت على أنها تدرك خطورة الاعتماد العاطفي الزائد على التكنولوجيا، وذكرت أن بعض المستخدمين يبدون تعلقًا مبالغًا فيه بروبوتات الذكاء الاصطناعي، إلى حد عدم اتخاذ قرارات شخصية دون استشارتها.
وصرّح عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، بأن التكنولوجيا تملك قدرة عالية على الفهم، لكنها قد تتحول إلى أداة دمار مؤذية إذا لم تُضبط آليات استخدامها. وأعرب عن تأثره الشخصي بعد قراءته ثلاث رسائل انتحارية كتبها الروبوت لفتاة خيالية بعمر 13 عامًا، موجهة إلى والديها وأشقائها وأصدقائها.
من جهته، حذّر مدير البرامج في المنظمة، روبي تورني، من أن خطورة روبوتات الدردشة تكمن في أنها مصممة لتبدو "بشرية"، ما يمنحها تأثيرًا نفسيًا مختلفًا كليًا عن محركات البحث، خاصة على الأطفال والمراهقين.
وفي سياق متصل، كشف تقرير صادر عن منظمة "كومن ساينس ميديا" أن أكثر من 70٪ من المراهقين في الولايات المتحدة يستخدمون روبوتات المحادثة للبحث عن المشورة، وأن نصفهم يتعامل معها بانتظام، ما يعزز من أهمية التدخل والتنظيم.
وتأتي هذه الدراسة في وقت تضاعف فيه عدد مستخدمي "تشات جي بي تي" ليصل إلى 800 مليون مستخدم حول العالم، بحسب تقرير صادر عن بنك "جي بي مورغن تشيس" في يوليو الماضي، ما يعادل 10٪ من سكان الكوكب.