عندما رأت بوبي ألثوف أنها أصبحت رائجة على تويتر في فبراير، اعتقدت أن ذلك بسبب البودكاست الخاص بها.
البودكاست الجيد حقًا المضيفة والمؤثرة على وسائل التواصل الاجتماعي، 26 عامًا، والمعروفة بمقابلاتها الجامدة مع المشاهير، أجرت مؤخرًا مقابلة مع مغني الراب مع خليفةوأرادت التحقق مما إذا كان الناس يتحدثون عن الحلقة. بعد كل شيء، كان الاثنان يدخنان معًا، وكان مغني الراب قد دربها “من خلال الانتشاء”.
وسرعان ما اكتشفت أن المحادثة كانت تدور حول شيء آخر تمامًا. تبين أن مقاطع الفيديو المزيفة بعمق للمواد الإباحية التي أنشأها الذكاء الاصطناعي باستخدام صورة ألثوف تم تداولها على X.
“كنت مثل ،” ما هذا بحق الجحيم؟ ” “هذا ليس البودكاست الخاص بي” ، قال ألتوف لموقع Yahoo Entertainment في حدث خاص بلعبة الورق الجديدة من Hasbro Fork، Milk، Kidnap.
أصبحت الصور ومقاطع الفيديو المزيفة مشكلة أكبر بشكل متزايد للمشاهير وغير المشاهير على حد سواء، حيث تم استدعاء منصة X على وجه التحديد بسبب الافتقار إلى الرقابة على غرار لوحات الرسائل السامة والمجهولة السمعة مثل 4chan. وفي تسع ساعات فقط، حصد المقطع أكثر من 4.5 مليون مشاهدة على موقع X، وفقًا لصحيفة واشنطن بوست.
لم يستجب ممثل X على الفور لطلب Yahoo Entertainment للتعليق.
لم يكن أشخاص مثل تايلور سويفت فقط ضحية للصور المزيفة وغير التوافقية التي يتم نشرها بين الجماهير، ولكن كان على الطلاب دون السن القانونية مواجهة هذه المشكلة أيضًا.
في حين أن بعض الصور تبدو وكأنها تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل ملحوظ (على سبيل المثال، هناك عدد كبير جدًا من الأصابع في كل يد)، إلا أن البعض الآخر أكثر دقة ويمكن أن يربك المشاهدين.
“لقد قلت على الفور:” هذا يبدو مزيفًا للغاية. من المستحيل أن يصدق أحد ذلك. قال ألثوف: “لذا فقد تجاهلت الأمر بشكل غير كبير”.
لقد صدقها الكثير من مستخدمي الإنترنت، وكذلك فعل فريقها، الذي أرسل لها رسالة على الفور.
وتذكرت قائلة: “كانوا يقولون: بوبي، عندما يكون لديك دقيقة، من فضلك اتصل بنا”.
كانت النبرة الجادة هي التي صدمت مقدم البودكاست والممثل الكوميدي، الذي اتصل بهما مرة أخرى لمناقشة ما كان يحدث.
“كانوا يقولون: نحن فقط بحاجة إلى أن نسأل: هل ما رأيناه على الإنترنت حقيقي؟”، قال ألثوف إنهم سألوا.
أجابت: “من المستحيل أن تعتقدوا يا رفاق أن هذا حقيقي”.
بالنسبة إلى ألتوف، فإن سماع ذلك من الأشخاص الذين عملت معهم بشكل وثيق ساعدها على فهم مدى تأثير هذه الصور المزيفة على الجمهور بشكل عام.
وقالت: “كان ذلك عندما بدأ الناس يصدقون ذلك، وكان ذلك فظيعًا حقًا”. “قلت لنفسي: “من المستحيل أن يصدق الناس هذا الأمر عني”، وقد فعلوا ذلك”.
على الرغم من عدم وجود قانون فيدرالي ينظم المواد الإباحية العميقة، فقد اتخذت بعض الولايات خطوات من تلقاء نفسها لمكافحة المشكلة المتزايدة، مثل ولاية ميسوري من خلال “قانون تايلور سويفت” المقترح. وبعيدًا عن تشريعات الولاية، تم تقديم مشروع قانون يعرف باسم قانون التحدي لعام 2024 إلى الكونجرس والذي من شأنه “تحسين حقوق الإغاثة للأفراد المتضررين من الأنشطة غير التوافقية التي تنطوي على عمليات تزوير رقمية حميمة”.
على الرغم من هذه الجهود المبذولة لتنظيم الصور غير التوافقية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، فإن أحد التحديات يأتي من تحديد من قام بإنشائها في المقام الأول، حيث أن الكثير منها نشأ على لوحات رسائل مجهولة المصدر.
في فبراير، أي اليوم التالي لظهور صور Althoff المزيفة على المنصة، قالت باحثة الإنترنت المستقلة جينيفيف أوه لشبكة NBC News إنها “تتبعت أكثر من 40 منشورًا على X تحتوي على فيديو Althoff المزيف أو روابط للمواد”. اعتبارًا من ذلك التقرير، تمت إزالة مشاركة واحدة فقط بسبب انتهاك قاعدة X. لم تستجب أوه على الفور لطلب Yahoo Entertainment للتعليق.
وباعتبارها أمًا لابنتين صغيرتين نشرت أجزاء من رحلة الأبوة والأمومة لمتابعيها على TikTok البالغ عددهم 7.4 مليون متابع، قالت ألتوف إنها تشعر بالقلق بشكل خاص.
وقالت لموقع Yahoo Entertainment: “الذكاء الاصطناعي مخيف”. “أنا مع أطفالي، وأقول لهم: “أنتم يا رفاق ستواجهون وقتًا عصيبًا”. حظ سعيد.' سوف تمتص. هذا العالم مخيف. لقد أصبح الأمر أكثر رعبا.”