ماذا يحدث
في أواخر الشهر الماضي، تم تداول سلسلة من الصور الجنسية الصريحة التي أنشأها الذكاء الاصطناعي لنجمة البوب تايلور سويفت عبر وسائل التواصل الاجتماعي، مما أثار غضب معجبيها وجددت الدعوات إلى اتخاذ إجراءات صارمة ضد ما يسمى بالتزييف العميق.
الصور العارية المزيفة للمشاهير ليست ظاهرة جديدة، ولكن بفضل أدوات الذكاء الاصطناعي المتقدمة والمتاحة على نطاق واسع، أصبح من الممكن الآن إنتاج صور أو مقاطع فيديو عالية الجودة بسرعة تظهر مظهر أي شخص في أي سيناريو يمكن تخيله. في حين تم إيلاء الكثير من الاهتمام لكيفية استخدام التزييف العميق لنشر المعلومات الخاطئة، تظهر الأبحاث أن 98٪ من جميع مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي على الإنترنت هي إباحية وأن جميع الأفراد المستهدفين تقريبًا هم من النساء.
يتم عرض المشاهير مثل الممثلات والموسيقيين والمؤثرين على وسائل التواصل الاجتماعي بشكل متكرر في المواد الإباحية العميقة، ولكن هناك العديد من الأمثلة على استهداف النساء والفتيات العاديات أيضًا. في العام الماضي، اكتشف المسؤولون في مدرسة ثانوية في نيوجيرسي أن بعض الطلاب استخدموا الذكاء الاصطناعي لإنشاء صور عارية مزيفة لأكثر من 30 من زملائهم في الفصل. تم الإبلاغ عن حوادث مماثلة في مدارس أخرى في الولايات المتحدة وخارجها.
من غير القانوني مشاركة صور عارية حقيقية لشخص ما دون موافقته في كل الولايات تقريبًا، خاصة إذا كان قاصرا. لكن القوانين المتعلقة بالإباحية الاصطناعية أضعف بكثير – على الرغم من أن الضرر الذي يلحق بالضحايا يمكن أن يكون هو نفسه سواء كان المحتوى مزيفًا أو حقيقيًا. لا يوجد قانون فيدرالي يتعلق بالإباحية العميقة التزييف، ولا يوجد سوى حوالي 10 ولايات لديها قوانين تحظرها. تحظر معظم مواقع التواصل الاجتماعي المواد الإباحية التي تعتمد على الذكاء الاصطناعي، لكن حجم المشكلة والاعتدال المتراخي يعني أنها لا تزال منتشرة على منصاتها. تم بث إحدى المنشورات التي تتضمن التزييف العميق لـ Swift على X، Twitter سابقًا، لمدة 17 ساعة وجمعت أكثر من 45 مليون مشاهدة قبل إزالتها.
لماذا هناك نقاش
مثل العديد من الأشياء الضارة الأخرى عبر الإنترنت، قد يكون من المستحيل القضاء تمامًا على المواد الإباحية التي تعتمد على الذكاء الاصطناعي. لكن الخبراء يقولون إن هناك الكثير من الأشياء التي يمكن القيام بها لجعلها أقل انتشارًا بشكل كبير والحد من الأضرار التي تسببها.
تم اقتراح العديد من مشاريع القوانين في الكونجرس من شأنها أن تخلق حماية على مستوى البلاد ضد الإباحية العميقة، إما عن طريق فرض عقوبات قانونية جديدة على أولئك الذين يقومون بإنشائها أو مشاركتها أو عن طريق منح الضحايا حقوقًا جديدة لطلب تعويضات بعد استهدافهم. ويقول مؤيدو هذه الخطط إنه حتى لو لم تتخلص القوانين الجديدة من كل ممثل سيئ، فإنها ستؤدي إلى بعض القضايا البارزة التي من شأنها أن تخيف الآخرين وتمنعهم من إنشاء محتوى مزيف عميق.
وبعيدًا عن القوانين الجديدة، يرى العديد من مراقبي صناعة التكنولوجيا أن الجمهور بحاجة إلى الضغط على مختلف الكيانات الرئيسية التي تسمح للأشخاص بإنشاء المواد الإباحية التي تعتمد على الذكاء الاصطناعي والعثور عليها ونشرها والاستفادة منها – بما في ذلك منصات الوسائط الاجتماعية وشركات بطاقات الائتمان ومطوري الذكاء الاصطناعي والبحث. المحركات. هناك أيضًا أمل في أن الخوف من الدعاوى القضائية من شخص مثل سويفت يمكن أن يخلق مخاطر مالية كافية بحيث تبدأ هذه المجموعات في التعامل مع التزييف العميق على محمل الجد.
في الوقت نفسه، يرى بعض الخبراء أن الحرب ضد الإباحية التي تعتمد على الذكاء الاصطناعي قد خسرت بالفعل. من وجهة نظرهم، فإن المشكلة الفنية المتمثلة في العثور على العديد من المحتوى المزيف العميق وحظره غير قابلة للحل بشكل أساسي، وحتى القوانين أو السياسات الجديدة الأكثر عدوانية لن تلتقط سوى جزء صغير من طوفان المحتوى الصريح المزيف الموجود هناك.
ماذا بعد
يقال إن سويفت تفكر في اتخاذ إجراء قانوني ردًا على التزييف العميق لها، لكن الخبراء يقولون إن خياراتها قد تكون محدودة مع وجود عدد قليل جدًا من القوانين في الكتب. على الرغم من الاهتمام الجديد الذي تم تسليطه على هذه القضية، يبدو أنه لا توجد خطط حالية للكونغرس للتصويت على أي من المقترحات المختلفة المناهضة للذكاء الاصطناعي.
توقعات – وجهات نظر
يحتاج الكونجرس أخيرًا إلى حظر التزييف العميق على مستوى البلاد
“هذه قضية نادرة بين الحزبين الجمهوري والديمقراطي، ويجب على المشرعين استغلالها لفعل بعض الخير قبل أن يستخدم الفاعلون السيئون الذكاء الاصطناعي لإحداث المزيد من الخراب في حياة المزيد من الأبرياء”. – خبير الأمن القومي فرانك فيجليوزي، MSNBC
ليس لدينا الأدوات اللازمة لإيقاف المواد الإباحية التي تعتمد على الذكاء الاصطناعي
“من ناحية، فإن تقنياتنا والفرق البشرية التي تقف وراءها ليست على مستوى المهمة. ومن ناحية أخرى، فإن التصحيح الحكومي المفرط قد يتركنا مع شبكات اجتماعية مقيدة بشدة، مما يؤدي إلى إغلاق الأشكال المشروعة من التعليق. – مايلز كلي، رولينج ستون
يمكن للقوانين الصارمة أن تخلق أمثلة تخيف الجميع
“هناك أمل في التوصل إلى حل. بعض الإجراءات التي تمر عبر الكونجرس هي البداية، وبينما لا تزال القواعد طويلة المدى قيد التسوية، يمكن للسلطات التعامل مع الوضع في الوقت الحالي من خلال تقديم أمثلة لبعض أسوأ الجناة. يمكن لوسائل الردع أن تنجح، حتى بالنسبة للأشخاص الذين يعتقدون أن بإمكانهم الاختباء خلف عباءة عدم الكشف عن هويتهم عبر الإنترنت. – بارمي أولسون، بلومبرج
يمكن للجمهور إجبار شركات التكنولوجيا الكبرى على التعامل مع التزييف العميق بجدية أكبر
“يمكن لسويفت ومعجبيها الدعوة إلى تمرير التغييرات القانونية على المستوى الفيدرالي. لكن غضبهم يمكن أن يفعل شيئًا آخر: دفع المنصات إلى الانتباه. – أماندا هوفر، سلكي
ويجب أن تركز أي قوانين جديدة على مساعدة الضحايا قدر الإمكان
“[Proposed bills are] لا تتمحور بالضرورة دائمًا حول احتياجات الضحايا. عادةً ما تكون أهم احتياجات الضحية هي إزالة المحتوى. لذا، إذا كان لدينا مشهد تشريعي يتمحور حول الضحية. … سيركز على كيفية جعل بيئات الإنترنت أكثر أمانًا ليستخدمها الأشخاص فعليًا. — صوفي مادوكس، باحثة الذكاء الاصطناعي في جامعة بنسلفانيا، لموقع Slate
يجب هدم البنية التحتية التي تدعم الاقتصاد الإباحي القائم على الذكاء الاصطناعي
“ليس فقط منشئو المواد الإباحية العميقة هم الذين يستفيدون من هذا الاستغلال. يتم تسهيل وتمكين المواقع الإباحية Deepfake بواسطة محركات البحث التي توجه حركة مرور الويب نحو محتوى Deepfake. يستضيفها مزودو خدمات الإنترنت وتقوم شركات بطاقات الائتمان والدفع بتسهيل المعاملات على مواقعها، بينما تعلن شركات أخرى عن منتجاتها تحت هذه الفيديوهات. – صوفي كومبتون وروبن هاملين، سي إن إن
نحن بحاجة إلى قوانين جديدة لمكافحة جميع مخاطر الذكاء الاصطناعي، وليس فقط التزييف العميق
“حان الوقت الآن لدعوة الكونجرس والمشرعين في الولاية إلى التحرك – ليس فقط بشأن المواد الإباحية العميقة وليس فقط بالنسبة لتايلور سويفت، ولكن أيضًا بشأن مخاطر الذكاء الاصطناعي على نطاق أوسع، ومن أجل مستقبل أكثر أمانًا لكل شخص على هذا الكوكب.” – جيل فيليبوفيتش، الجارديان
يعد رفع مستوى الوعي بالأضرار الفادحة التي تسببها التزييف العميق مكانًا جيدًا للبدء
“يتم أحيانًا رفض المواد الإباحية المزيفة والأشكال الأخرى من الاعتداء الجنسي الرقمي باعتبارها ضررًا “أقل” من الاعتداء الجنسي الجسدي بسبب طبيعتها عبر الإنترنت. يمكن لقضية رفيعة المستوى مثل قضية سويفت أن تساعد في لفت الانتباه إلى التأثير الحقيقي لهذه الصور على الضحايا. – جايد جيلبورن، المحادثة
رسم توضيحي للصور: أخبار ياهو، الصورة: صور غيتي