اكتشف عدد من الباحثين ما وصفوه بـ"الهلوسات القاتلة" بأحد أدوات الذكاء الاصطناعي التابعة لشركة "أوبين إيه آي" الشهيرة المستخدمة في المستشفيات.
وأوضح الباحثون أن أداة النسخ "وسبر" المستخدمة في المستشفيات، تعاني في بعض الأحيان من قصور يجعلها تخترع أشياء لم يقلها أحد من قبل؛ مما يجعل المسؤولين الصحيين ينفّذون إجراءات قد تكون خطيرة في بعض الأحيان.
يُذكر أن شركة "أوبين إيه آي" قد أشادت سابقًا بهذه الأداة ووصفتها بأنها تتمتع بـ"قوة ودقة على مستوى الإنسان تقريبًا".
ولكن الباحثين أشاروا إلى أن الأداة تختلق في بعض الأحيان، "أجزاء من النصوص أو حتى جملًا كاملة"؛ وفقًا لمقابلات مع أكثر من اثني عشر مهندسًا ومطورًا وباحثًا أكاديميًّا في مجال البرمجيات.
وقال هؤلاء الخبراء إن بعض النصوص المخترعة -المعروفة في الصناعة باسم الهلوسة- يمكن أن تتضمن تعليقات عنصرية وخطابًا عنيفًا وحتى علاجات طبية متخيلة.
وقال الخبراء إن مثل هذه التلفيقات، إشكالية؛ لأن الأداة تُستخدم في عدد كبير من الصناعات في جميع أنحاء العالم لترجمة ونسخ المقابلات، وإنشاء نص في تقنيات المستهلك الشائعة وإنشاء ترجمات لمقاطع الفيديو.
وأشاروا إلى أن الأمر الأكثر إثارة للقلق، هو اندفاع المراكز الطبية لاستخدام أدوات تعتمد على أداة "وسبر" لنسخ استشارات المرضى مع الأطباء؛ على الرغم من تحذيرات "أوبين إيه آي" من أنه لا ينبغي استخدام الأداة في "المجالات عالية الخطورة".
ومن ضمن الأمثلة، وصَف باحث في جامعة ميشيغان، أنه أجرى دراسة على الاجتماعات العامة، ووجد هلوسات في ثمانية من كل 10 نسخ صوتية فحصها، قبل أن يبدأ في محاولة تحسين النموذج.
وقالت ألوندرا نيلسون، التي قادت مكتب البيت الأبيض لسياسة العلوم والتكنولوجيا لإدارة بايدن حتى العام الماضي: إن مثل هذه الأخطاء قد يكون لها "عواقب وخيمة حقًّا"، خاصة في المستشفيات.
وأضافت "نيلسون" الأستاذة في معهد الدراسات المتقدمة في نيوجيرسي: "لا أحد يريد تشخيصًا خاطئًا، ويجب أن يكون هناك مستوى أعلى من الثقة".