"أكل صخرة للعلاج ووضع غراء على البيتزا".. شركة تكتشف "الآلاف" من عيوب الذكاء الاصطناعي

"أكل صخرة للعلاج ووضع غراء على البيتزا".. شركة تكتشف "الآلاف" من عيوب الذكاء الاصطناعي

قالت شركة أمريكية، تنشط في مجال التكنولوجيا، إنها "اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة"، وأشارت إلى أن تلك الأدوات تُنتج محتوى عنيفًا أو فاضحًا.

وبحسب صحيفة "واشنطن بوست" الأمريكية، قالت شركة "هييز لابس" إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".

"أكل صخرة للعلاج ووضع الغراء على البيتزا"

وأشارت إلى أن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.

وأضحى الذكاء الاصطناعي مصدر قلق مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها، وفي إرشاد المستهلكين إلى منتجاتها.

وواجهت شركة غوغل الشهر الماضي موجة من الانتقادات بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة عن أسئلة المستخدمين؛ إذ أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناوُل صخرة صغيرة يوميًّا كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر!

تباطؤ التحسن بأنظمة الذكاء الاصطناعي

وفي تقرير نشرته نهاية مايو الماضي، ذكرت صحيفة "وول ستريت جورنال" أن "معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورًا في الأصل، حتى بالنسبة لأكثرها قدرة".

وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.

خصم مالي وهمي من شركة طيران

وفي فبراير تعرضت شركة طيران كندا لسلسلة من الانتقادات عندما وعد برنامج الدردشة الآلي الخاص بها، المُزوَّد بتقنية الذكاء الاصطناعي، أحد المسافرين بخصم مالي وهمي.

مؤسسات تختبر قدرات الذكاء الاصطناعي

ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع سنحتاج إلى مجموعة أكبر من المؤسسات؛ لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".

ويلفت بعض الخبراء إلى أنه على الرغم من الجهود التي تبذلها شركات الذكاء الاصطناعي الكبرى إلا أنه لا يزال من السهل للغاية إقناع هذه الأدوات بالقيام بأشياء ليس من المفترض أن تفعلها.

ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي؛ إذ وجدت دراسة أجرتها "مايكروسوفت" و"لينكد إن" أن 3 من كل 4 من المديرين والمتخصصين يستخدمون الذكاء الاصطناعي في العمل.

وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة؛ لأنها محايدة.

ولفت إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى فيما يتعلق بالتدقيق؛ لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.

أخبار قد تعجبك

No stories found.
صحيفة سبق الالكترونية
sabq.org