من شبه المؤكد أن مكالمة آلية حديثة من الرئيس المزيف جو بايدن يطلب من سكان نيو هامبشاير عدم التصويت، تم إنشاؤها باستخدام الذكاء الاصطناعي، وفقًا لخبراء المعلومات المضللة والأشخاص الذين يدرسون التكنولوجيا.
المكالمة، التي وصفها مكتب المدعي العام في نيو هامبشاير بأنها “محاولة غير قانونية” على ما يبدو لمنع الناخبين من الكتابة باسم بايدن في الانتخابات التمهيدية الرئاسية الديمقراطية في الولاية يوم الثلاثاء، مجهولة المصدر. يقول الخبراء إنه يبدو أنه ملف مزيف عميق – صوت أو فيديو مزيف تم إنشاؤه باستخدام الذكاء الاصطناعي ومصمم لتقليد أشخاص حقيقيين، عادةً دون علمهم أو موافقتهم.
وقال بن كولمان، الرئيس التنفيذي لشركة Reality Defender، وهي شركة تصنع برامج لاختبار ملفات الوسائط لمعرفة ما إذا كانت تبدو مصطنعة: “تشير كل الدلائل إلى أنها مزيفة بعمق”.
وقال كولمان: “نحن لا نقول أبدًا أن أي شيء مؤكد بنسبة 100٪، لأننا لا نملك الحقيقة على الأرض، ولكن من المحتمل جدًا أن يتم التلاعب بها”.
يبدو الصوت في المكالمة الآلية، الذي حصلت عليه NBC News لأول مرة، مثل صوت بايدن، على الرغم من أن الإيقاع مقطوع. يكاد يكون من المستحيل تحديد برنامج الذكاء الاصطناعي الذي كان سينشئ الصوت؛ البرامج التي يمكنها إنشاء نسخة مقنعة إلى حد ما من صوت شخص ما متاحة على نطاق واسع مثل تطبيقات الهاتف والخدمات عبر الإنترنت، وعادة ما تكون مجانية أو مقابل رسوم بسيطة.
ولا تحتاج مثل هذه البرامج في كثير من الأحيان إلا إلى كمية صغيرة من العينات الصوتية لتقليد أصوات الأشخاص، مما يجعل من السهل عليهم تقليد السياسي.
وقالت ليندساي جورمان، التي تدرس التقنيات الناشئة والمعلومات المضللة في تحالف تأمين الديمقراطية التابع لصندوق مارشال الألماني، إنه غالبًا ما تكون هناك روايات عن التزييف العميق، على الرغم من أن التكنولوجيا تتحسن باستمرار.
“بدا الإيقاع، خاصة في النهاية، غير طبيعي وروبوتي. وقالت: “هذه إحدى النصائح المتعلقة بمحتوى صوتي يحتمل أن يكون مزيفًا”.
وقال جورمان إن التحديد الواضح لما هو مزيف عميق أو غير مزيف أصبح لعبة القط والفأر مع قيام المطورين بتحسين التكنولوجيا.
وقالت: “في حالة التزييف البصري العميق، أحد التوقيعات هو القدرة على اكتشاف عيون الناس”. “هذه معلومات جيدة عمومًا، مفادها أنه إذا كانت حركات أعينهم غير طبيعية، فقد يكون ذلك تزييفًا عميقًا. لكن الآن أصبحت برامج التزييف العميق أفضل وتعاملت مع بعض حركات العين الغريبة وغير المنتظمة: التحديق، والرمش الزائد.
وقال السيناتور ريتشارد بلومنثال، ديمقراطي من ولاية كونيتيكت، الذي قدم إطارًا تشريعيًا للذكاء الاصطناعي في مجلس الشيوخ، إنه يأمل أن ينبه الحادث الأمريكيين إلى مخاطر التضليل التي يمكن أن يشكلها الذكاء الاصطناعي.
“يمكن للمبتدئ إتقانها في دقائق معدودة. وقال بلومنثال لشبكة إن بي سي نيوز: “لسوء الحظ والمأساوي، هذا هو مستقبلنا ما لم نتصرف بشكل حاسم”.
وقال: “آمل أن يكون التزييف العميق أو التقليد لبايدن بمثابة صدمة للنظام وربما تنبيه الجميع إلى أن الجميع في الواقع في خطر”.
في حين أن القانون الفيدرالي يجرم معرفة محاولات منع الناس من التصويت أو التسجيل للتصويت، إلا أن هناك القليل من التنظيم حول استخدام الذكاء الاصطناعي بشكل خادع. وقال متحدث باسم اللجنة إنه بينما ضغط بعض النشطاء على لجنة الانتخابات الفيدرالية لتنظيم الإعلانات المزيفة، إلا أنها لم تحدد بعد ما إذا كانت ستبدأ أي عملية وضع قواعد حول هذه التكنولوجيا.
وقالت ميكيلا بانديثاراتني، كبيرة المستشارين في برنامج الديمقراطية في مركز برينان للعدالة في كلية الحقوق بجامعة نيويورك، إنه في حين أن الاستخدام الواضح لتكنولوجيا التزييف العميق لمنع الناس من التصويت في الانتخابات التمهيدية الرئاسية الأمريكية قد يكون جديدًا، إلا أن استخدام المكالمات الآلية لقمع الأصوات ليست كذلك.
قال بانديثاراتني: “لقد تم نشر المكالمات الآلية تاريخياً من قبل جهات خادعة لنشر معلومات كاذبة حول كيفية وزمان ومكان التصويت في محاولة لخداع الناس من التصويت”. “من المحتمل أن يجعل الذكاء الاصطناعي لتوليد الصوت طريقة محاولة قمع التصويت أكثر جاذبية للمحتالين.”
تم نشر هذه المقالة في الأصل على موقع NBCNews.com