أصدرت هيئة تنظيم الأمن السيبراني الصينية، يوم السبت، مسودة قواعد لمناقشة مجتمعية وإبداء الرأي العام، وتهدف إلى تشديد الرقابة على خدمات الذكاء الاصطناعي المصممة لمحاكاة الشخصيات البشرية وإشراك المستخدمين في تفاعل عاطفي.
ووفقًا لوكالة "رويترز"، تؤكد هذه الخطوة جهود بكين لتوجيه الانتشار السريع للذكاء الاصطناعي الموجه للمستهلكين، من خلال تعزيز متطلبات السلامة والأخلاقيات.
وستُطبق القواعد المقترحة على منتجات وخدمات الذكاء الاصطناعي المقدمة للجمهور في الصين، التي تحاكي سمات الشخصية البشرية، وأنماط التفكير، وأساليب التواصل، وتتفاعل مع المستخدمين عاطفيًا عبر النصوص والصور والصوت والفيديو، أو غيرها من الوسائل.ويحدد مشروع القانون نهجًا تنظيميًا يُلزم مقدمي الخدمات
بتحذير المستخدمين من الإفراط في الاستخدام، والتدخل عند ظهور علامات الإدمان.
وبموجب هذا المقترح، سيُطلب من مقدمي الخدمات تحمّل مسؤوليات السلامة طوال دورة حياة المنتج، وإنشاء أنظمة لمراجعة الخوارزميات، وأمن البيانات، وحماية المعلومات الشخصية.
كما يركز مشروع القانون على المخاطر النفسية المحتملة، إذ يُتوقع من مقدمي الخدمات تحديد حالات المستخدمين، وتقييم مشاعرهم، ومستوى اعتمادهم على الخدمة. وفي حال تبيّن أن المستخدمين يُظهرون مشاعر مفرطة أو سلوكًا إدمانيًا، فعلى مقدمي الخدمات اتخاذ الإجراءات اللازمة للتدخل.
وتحدد هذه الإجراءات خطوطًا حمراء للمحتوى والسلوك، وتنص على أنه لا يجوز للخدمات إنتاج محتوى يهدد الأمن القومي، أو ينشر الشائعات، أو يروج للعنف أو الفحش.