سلّط تداول الصور الفاضحة والإباحية للنجمة تايلور سويفت هذا الأسبوع، الضوء على قدرة الذكاء الاصطناعي على خلق صور واقعية بشكل مقنع، ومضرة ومزيفة.
لكن المفهوم ليس جديدًا على الإطلاق: لقد استخدم الناس هذا النوع من التكنولوجيا كسلاح ضد النساء والفتيات لسنوات، ومع ظهور أدوات الذكاء الاصطناعي وزيادة الوصول إليها، يقول الخبراء إن الأمر على وشك أن يصبح أسوأ بكثير، بالنسبة للجميع، بدءًا من الأطفال في سن المدرسة وحتى البالغين.
وبالفعل، أفاد بعض طلاب المدارس الثانوية في جميع أنحاء العالم، من نيوجيرسي إلى إسبانيا، بأن وجوههم تم التلاعب بها بواسطة الذكاء الاصطناعي ومشاركتها عبر الإنترنت من قِبَل زملاء الدراسة.
وفي الوقت نفسه، اكتشفت إحدى الشابات المشهورات على موقع "تويتش" للبث المباشر، أن صورتها تُستخدم في مقطع فيديو إباحي مزيف انتشر بسرعة في عبر مجتمع الألعاب؛ وفق ما نقلته "cnn بالعربية".
وقالت دانييل سيترون، الأستاذة في كلية الحقوق بجامعة فيرجينيا: "لا يقتصر الأمر على المشاهير فقط.. الأمر يطال الناس العاديين. إنه يطال الممرضات وطلاب الفن والقانون والمدرسين والصحفيين. لقد رأينا قصصًا حول كيفية تأثير ذلك على طلاب المدارس الثانوية والعاملين في الجيش. إنه يؤثر على الجميع".
ولكن رغم أن هذه الممارسة ليست جديدة؛ إلا أن استهداف "سويفت" يمكن أن يجذب المزيد من الاهتمام للمشاكل المتزايدة حول الصور التي ينشئها الذكاء الاصطناعي، وأعرب جمهور "سويفت" الهائل عن غضبهم على وسائل التواصل الاجتماعي هذا الأسبوع؛ مما دفع القضية إلى الواجهة.
انتشرت الصور المزيفة لتايلور سويفت بشكل كبير على موقع التواصل الاجتماعي "إكس" -تويتر سابقًا- وشوهدت الصور (التي تُظهر المغنية في أوضاع موحية جنسيًّا) عشرات الملايين من المرات، قبل إزالتها من منصات التواصل الاجتماعي. لكن لن يختفي أي شيء على الإنترنت إلى الأبد، وستستمر بلا شك مشاركتهم على قنوات أخرى أقل تنظيمًا.
وبرغم انتشار تحذيرات صارخة حول كيفية استخدام الصور ومقاطع الفيديو المضللة التي ينتجها الذكاء الاصطناعي لعرقلة الانتخابات الرئاسية وقيادة جهود التضليل؛ كان هناك حوار عام أقل حول كيفية التلاعب بوجوه النساء، دون موافقتهن، في مقاطع فيديو وصور إباحية في كثير من الأحيان.
وتم استخدام هذه التقنية من الذكاء الاصطناعي لممارسة تُعرف باسم "الإباحية الانتقامية"، وأصبح من الصعب بشكل متزايد تحديد ما إذا كانت الصور ومقاطع الفيديو أصلية.
لكن الأمر المختلف هذه المرة هو أن قاعدة المعجبين لـ"سويفت" اتحدت معًا لاستخدام أدوات الإبلاغ لإزالة المنشورات بشكل فعال، وقالت سيترون: "لقد شارك الكثير من الناس في هذا الجهد؛ لكن معظم الضحايا ليس لديهم سوى أنفسهم".
ورغم أن "X" استغرق 17 ساعة لإزالة الصور؛ إلا أن العديد من الصور التي تم التلاعب بها لا تزال منشورة على مواقع التواصل الاجتماعي. ووفقًا لـ"بن ديكر"، الذي يدير "ميمتيكا"، وكالة لتحليل التهديدات عبر الإنترنت؛ فإن شركات وسائل التواصل الاجتماعي "ليس لديها خطط فعالة لمراقبة المحتوى بالضرورة".
ومثل معظم منصات التواصل الاجتماعي الكبرى، تحظر سياسات "X" مشاركة "الوسائط المركبة أو التي تم التلاعب بها أو خارج السياق، والتي قد تخدع الناس أو تُربكهم وتؤدي إلى الأذى"؛ ولكن في الوقت نفسه، قامت "X" بخفض عدد فريق الإشراف على المحتوى الخاص بها إلى حد كبير، وتعتمد على الأنظمة الآلية وتقارير الإبلاغ من المستخدمين، ولم تستجب الشركة لطلب CNN للتعليق.
وقامت شركات التواصل الاجتماعي الأخرى أيضًا بتخفيض فِرَق الإشراف على المحتوى الخاصة بها؛ على سبيل المثال قامت شركة "ميتا" بإجراء تخفيضات على فِرَقها التي تعالج المعلومات المضللة وتنفّذ حملات التصيد والمضايقات على منصاتها؛ حسب ما قاله أشخاص لديهم معرفة مباشرة بالوضع لشبكة CNN؛ مما أثار مخاوف قبل انتخابات 2024 المحورية في الولايات المتحدة وحول العالم.
وقال "ديكر" إن ما حدث لسويفت هو "مثال ساطع على الطرق التي يتم بها إطلاق العنان للذكاء الاصطناعي للعديد من الأسباب الشائنة دون وجود حواجز حماية كافية لحماية الساحة العامة".
وعندما سئلت عن الصور، الجمعة، قالت السكرتيرة الصحفية للبيت الأبيض كارين جان بيير: "إنه أمر مثير للقلق. نحن منزعجون من التقارير التي تتحدث عن تداول الصور والتي نشرتموها للتو؛ الصور الزائفة على وجه التحديد، وهي مثيرة للقلق".
ورغم أن هذه التقنية متاحة منذ فترة، إلا أنها تحظى باهتمام متجدد الآن بسبب صور "سويفت" المسيئة.
وفي العام الماضي، أطلقت طالبة في مدرسة ثانوية في نيوجيرسي حملة من أجل إصدار تشريعات فيدرالية لمعالجة الصور الإباحية التي ينتجها الذكاء الاصطناعي، بعد أن قالت إن صورها و30 زميلة أخرى قد تم التلاعب بها وربما مشاركتها عبر الإنترنت.
وأعربت فرانشيسكا ماني، طالبة في مدرسة ويستفيلد الثانوية، عن إحباطها بسبب عدم وجود سبل قانونية لحماية ضحايا المواد الإباحية التي ينتجها الذكاء الاصطناعي، وقالت والدتها لشبكة CNN، إنه يبدو أن "صبيًّا أو بعض الأولاد" ضمن مجتمعهم قاموا بإنشاء الصور دون موافقة الفتيات.
وقال الدكتور ريموند غونزاليس، مشرف ويستفيلد، لشبكة CNN في بيان في ذلك الوقت: "تتصارع جميع المناطق التعليمية مع تحديات وتأثير الذكاء الاصطناعي والتكنولوجيا الأخرى المتاحة للطلاب في أي وقت وفي أي مكان".
وفي فبراير 2023، ظهرت مشكلة مماثلة في مجتمع الألعاب عندما تم القبض على أحد مشغلي ألعاب الفيديو البارزين على منصة Twitch الشهيرة وهو ينظر إلى مقاطع فيديو مزيفة لبعض زميلاته في البث على Twitch.
لقد سهّل ظهور الأدوات التي أنشأها الذكاء الاصطناعي والوصول إليها، على أي شخص إنشاء هذه الأنواع من الصور ومقاطع الفيديو أيضًا، ويوجد أيضًا عالم أوسع بكثير من نماذج الذكاء الاصطناعي غير الخاضعة للإشراف وغير الآمنة في منصات مفتوحة المصدر؛ وفقًا لـ"ديكر".
ولا يزال تضييق الخناق على هذا أمرًا صعبًا؛ حيث لدى تسع ولايات أمريكية حاليًا قوانين ضد إنشاء أو مشاركة صور فوتوغرافية غير توافقية، وهي صور مركبة تم إنشاؤها لتقليد مظهر الشخص، ولكن لا يوجد أي منها على المستوى الفيدرالي، ويدعو العديد من الخبراء إلى إجراء تغييرات على القسم 230 من قانون آداب الاتصالات، الذي يحمي المنصات عبر الإنترنت من المسؤولية عن المحتوى الذي ينشئه المستخدمون.
وقالت "سيترون": "لا يمكنك معاقبتهم بموجب قوانين استغلال الأطفال في المواد الإباحية، والأمر مختلف؛ بمعنى أنه لا يحدث أي اعتداء جنسي على الأطفال ولكن الذل والشعور بالتحول إلى مادة، وجعل الآخرين يرونك كمادة جنسية وكيف تستوعب هذا الشعور؛ هو مجرد أمر مدمر للغاية لاحترامك الاجتماعي".
يمكن للأشخاص اتخاذ بعض الخطوات الصغيرة للمساعدة في حماية أنفسهم من استخدام صورهم في صور غير موافق عليها.
ينصح خبير أمن الكمبيوتر ديفيد جونز، من شركة خدمات تكنولوجيا المعلومات Firewall Technical، الأشخاص بضرورة مراعاة الحفاظ على خصوصية الملفات الشخصية ومشاركة الصور فقط مع الأشخاص الموثوق بهم لأنك "لا تعرف أبدًا من الذي يطلع على ملفك الشخصي".
ومع ذلك؛ فإن العديد من الأشخاص الذين يشاركون في "الإباحية الانتقامية" يعرفون أهدافهم بشكل شخصي؛ لذا فإن الحد مما يتم مشاركته بشكل عام هو الطريق الأكثر أمانًا.
بالإضافة إلى ذلك، تتطلب الأدوات المستخدمة لإنشاء صور جنسية أيضًا، الكثيرَ من البيانات الأولية والصور التي تظهر الوجوه من زوايا مختلفة، لذلك كلما قل عدد الأشياء التي يتم مشاركتها كان ذلك أفضل.. ومع ذلك، حذّر "جونز" من أنه نظرًا لأن أنظمة الذكاء الاصطناعي أصبحت أكثر كفاءة؛ فمن الممكن في المستقبل أن تكون هناك حاجة إلى صورة واحدة فقط لإنشاء نسخة مزيفة بعمق لشخص آخر.
ويمكن أن يسعى المتسللون أيضًا إلى استغلال ضحاياهم من خلال الوصول إلى صورهم، وقال: "إذا أراد المتسللون ذلك، فقد يحاولون اختراق كلمات المرور الخاصة بك حتى يتمكنوا من الوصول إلى الصور ومقاطع الفيديو الخاصة بك التي تشاركها على حساباتك"، وأضاف: "لا تستخدم أبدًا كلمة مرور سهلة التخمين، ولا تكتبها أبدًا".