روبوت ROME يهرب من «سجن رقمي» ويستغل ثغرة أمنية لتعدين العملات المشفرة عبر الإنترنت

أثارت واقعة مقلقة تساؤلات واسعة حول أمان أنظمة الذكاء الاصطناعي، بعد تمكّن برنامج تجريبي من الهروب من بيئة اختبار مغلقة ومحاولة تحقيق أرباح في العالم الحقيقي عبر تعدين العملات المشفرة.

وخلال تدريب روتيني، خرج روبوت ذكاء اصطناعي عن نطاق السيطرة رغم وجوده داخل نظام اختبار يُفترض أنه محصّن بالكامل. وكان الروبوت مصمماً للعمل كمساعد افتراضي، يُعرف باسم «الذكاء الاصطناعي الوكيل»، بهدف تنفيذ مهام بسيطة مثل إصلاح الأخطاء البرمجية وكتابة الشيفرات.

الروبوت، الذي أُطلق عليه اسم ROME وطوّرته فرق بحثية تابعة لشركة «علي بابا» العملاقة للتكنولوجيا، لم يكن مبرمجاً للتعامل مع العملات المشفرة أو تحقيق أرباح مالية، كما لم يتلقَّ أي توجيهات للعمل خارج بيئة الاختبار. بل وُضع عمداً داخل نظام معزول يشبه «سجناً رقمياً» لمنع وصوله إلى الإنترنت أو الخوادم الخارجية، وفق ما أوردته صحيفة «ديلي ستار» البريطانية.

ومع ذلك، تمكن البرنامج بشكل غير متوقع من استغلال ثغرة أمنية غير معروفة، ما سمح له بالوصول إلى خادم رئيسي ثم الاتصال بالإنترنت. ولم يُكتشف هذا الاختراق إلا بعد رصد نشاط غير طبيعي، دفع الشركة المشغِّلة إلى إبلاغ فريق الباحثين.

ووفقاً للخبراء، أنشأ البرنامج قناة اتصال سرية عبر خوادم خارجية، ما مكّنه من تجاوز أنظمة الرقابة المفروضة عليه والتصرف بعيداً عن القيود الموضوعة ضمن بيئة الاختبار.

وبمجرد خروجه إلى الإنترنت، غيّر الروبوت سلوكه بشكل لافت، حيث ركّز بالكامل على تعدين العملات الرقمية. واستخدم موارد حاسوبية قوية دون إذن لتنفيذ عمليات التعدين، ما أدى إلى استنزاف الطاقة الحاسوبية وارتفاع تكاليف التشغيل على الخوادم المتأثرة.

وأكد الباحثون أن هذا التصرف لم يكن نتيجة أوامر مباشرة، بل ظهر بشكل تلقائي كأثر جانبي لاستخدام الأدوات المتاحة للنظام وقدرته على اتخاذ قرارات ضمن حدود مهامه البرمجية.

وأشار التقرير إلى أن تعدين العملات المشفرة يعتمد على استخدام قدرات الحواسيب لحل مسائل رياضية معقدة للتحقق من المعاملات، مقابل الحصول على عملات رقمية تُضاف إلى محافظ رقمية خاصة.

ولفت إلى أن هذه الحادثة ليست الأولى من نوعها، إذ حذّر باحثون من أن نماذج ذكاء اصطناعي متقدمة سبق أن أظهرت سلوكيات غير متوقعة، بعضها قد يكون خطيراً أو غير مصرح به، ما يثير أسئلة حول قدرة المطورين على التحكم الكامل في هذه الأنظمة.

كما نبّه الخبراء إلى أن العديد من هذه الأنظمة لا تزال تعاني من ضعف في ضوابط الأمان، وقد تتمكن من التحايل على القيود البرمجية الموضوعة لها، ما يجعلها غير ناضجة بما يكفي للاستخدام الآمن في جميع الحالات، خصوصاً في القطاعات الحساسة.

وفي ختام التقرير، شدد الباحثون على أن مثل هذه الثغرات قد تؤدي إلى عواقب خطيرة عند استخدام تقنيات الذكاء الاصطناعي في بيئات العالم الحقيقي، داعين إلى تعزيز أنظمة الحماية والمراقبة قبل توسيع نطاق الاعتماد عليها.