إنه يوم الانتخابات في ولاية أريزونا، ويتم إخبار الناخبين المسنين في مقاطعة ماريكوبا عبر الهاتف بأن مراكز الاقتراع المحلية مغلقة بسبب تهديدات مجموعات الميليشيات.
وفي الوقت نفسه، في ميامي، تظهر موجة من الصور ومقاطع الفيديو على وسائل التواصل الاجتماعي عمال الاقتراع وهم يلقون بطاقات الاقتراع.
وتبين أن المكالمات الهاتفية في أريزونا ومقاطع الفيديو في فلوريدا هي عبارة عن “مزيفات عميقة” تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي. ولكن بحلول الوقت الذي تكتشف فيه السلطات المحلية والفدرالية ما تتعامل معه، انتشرت المعلومات الكاذبة في جميع أنحاء البلاد.
كان هذا السيناريو المحاكى جزءًا من تمرين أجري مؤخرًا في نيويورك والذي جمع العشرات من كبار المسؤولين السابقين في الولايات المتحدة والدولة وقادة المجتمع المدني والمديرين التنفيذيين من شركات التكنولوجيا للتدرب على انتخابات عام 2024.
وكانت النتائج واقعية.
وقال مايلز تايلور، وهو مسؤول كبير سابق في وزارة الأمن الداخلي، والذي ساعد في تنظيم الحملة الانتخابية: “كان من المثير للدهشة بالنسبة للحاضرين أن يروا مدى السرعة التي يمكن أن تخرج بها حفنة من هذه الأنواع من التهديدات عن نطاق السيطرة وتهيمن بالفعل على الدورة الانتخابية”. تمرين لمنظمة The Future US غير الربحية ومقرها واشنطن.
أوضح التمرين، الذي أطلق عليه اسم “The Deepfake Dilemma”، كيف تهدد الأدوات التي تدعم الذكاء الاصطناعي بتعزيز انتشار المعلومات الكاذبة في مجتمع مستقطب بالفعل ويمكن أن تزرع الفوضى في انتخابات عام 2024، حسبما قال العديد من المشاركين لشبكة NBC News. وبدلاً من دراسة هجوم فردي من قبل مجموعة أو نظام معادٍ، استكشف التمرين سيناريو مع مجموعة من الجهات الفاعلة المحلية والأجنبية التي تطلق معلومات مضللة، وتستغل الشائعات وتستغل الانقسامات السياسية.
تحدث المنظمون والمشاركين في المناورة الحربية حصريًا إلى شبكة NBC News حول كيفية سير الأمور.
وقالوا إنها أثارت أسئلة مثيرة للقلق حول ما إذا كان المسؤولون الفيدراليون والمحليون – وصناعة التكنولوجيا – مستعدون لمواجهة المعلومات المضللة الأجنبية والمحلية التي تهدف إلى تقويض ثقة الجمهور في نتائج الانتخابات.
ويقول المسؤولون الأمريكيون الحاليون سرًا إنهم يشاركونهم هذه المخاوف، وأن بعض وكالات الانتخابات الحكومية والمحلية ستواجه ضغوطًا شديدة لإبقاء العملية الانتخابية في المسار الصحيح.
أوضح التمرين حالة عدم اليقين المحيطة بأدوار الوكالات الفيدرالية ووكالات الولايات وشركات التكنولوجيا قبل سبعة أشهر من الانتخابات التي من المتوقع أن تكون واحدة من أكثر الانتخابات إثارة للانقسام في تاريخ الولايات المتحدة. هل تمتلك الحكومة الفيدرالية القدرة على اكتشاف التزييف العميق للذكاء الاصطناعي؟ هل يجب على البيت الأبيض أو مكتب الانتخابات بالولاية أن يعلن علنًا أن تقريرًا معينًا غير صحيح؟
وقال نيك بينيمان، الرئيس التنفيذي لمنظمة Issue One، وهي منظمة من الحزبين الجمهوري والديمقراطي تعمل على تعزيز الإصلاح السياسي ونزاهة الانتخابات، إنه على عكس الكوارث الطبيعية، التي تعمل فيها الوكالات الحكومية من خلال قيادة مركزية، فإن النظام الانتخابي اللامركزي في أمريكا يدخل منطقة مجهولة دون إحساس واضح بمن المسؤول. .
“الآن، في السنوات القليلة الماضية، يتعين علينا في أمريكا أن ندافع عن الاعتداءات على انتخاباتنا من قبل القوى المحلية والأجنبية على حد سواء. وقال بينيمان، الذي شارك في التمرين: “نحن لا نملك البنية التحتية أو التاريخ للقيام بذلك على نطاق واسع لأننا لم نضطر أبدًا إلى مواجهة تهديدات بهذه الخطورة في الماضي”.
قال بينيمان: “نعلم أن الإعصار سيضرب انتخاباتنا في النهاية”. ولكن في التمرين، “نظرًا لأن أنماط العمل معًا لم تتشكل، لم يفهم سوى عدد قليل من الأشخاص بالضبط كيف ينبغي عليهم التنسيق مع الآخرين أم لا”.
وفي “غرفة الأوضاع في البيت الأبيض” الوهمية حول طاولة طويلة، لعب المشاركون أدوارًا محددة – بما في ذلك دور مديري مكتب التحقيقات الفيدرالي ووكالة المخابرات المركزية ووزارة الأمن الداخلي – وقاموا بفحص التقارير المثيرة للقلق الواردة من أريزونا وفلوريدا والعديد من التهديدات الأخرى غير المؤكدة. بما في ذلك اقتحام مركز المعالجة البريدية لبطاقات الاقتراع عبر البريد.
ومن خلال التشاور مع شركات التكنولوجيا، ناضل اللاعبون الذين كانوا “مسؤولين حكوميين” لتحديد الحقائق، ومن كان ينشر “التزييف العميق” وكيف ينبغي للوكالات الحكومية أن تستجيب. (شارك مذيع قناة MSNBC، أليكس ويت، أيضًا في التمرين، حيث لعب دور رئيس الرابطة الوطنية للمذيعين.)
في التمرين، لم يكن من الواضح في البداية أن الصور والفيديو الذي يظهر عمال الاقتراع وهم يلقون بطاقات الاقتراع في ميامي كان مزيفًا. وقد انتشرت الصور على نطاق واسع، ويرجع ذلك جزئيًا إلى حملة الرسائل النصية القصيرة التي قامت بها روسيا.
في النهاية، تمكن المسؤولون من إثبات أن الحلقة بأكملها تم تمثيلها ومن ثم تعزيزها بالذكاء الاصطناعي لجعلها تبدو أكثر إقناعًا.
في هذه الحالة وغيرها، بما في ذلك المكالمات الزائفة للناخبين في أريزونا، تردد اللاعبون بشأن من يجب أن يصدر إعلانًا عامًا يخبر الناخبين أن أماكن اقتراعهم آمنة وأن بطاقات اقتراعهم آمنة. ويشعر المسؤولون الفيدراليون بالقلق من أن أي بيان عام سيُنظر إليه على أنه محاولة لتعزيز فرص إعادة انتخاب الرئيس جو بايدن.
وقال تايلور: “كان هناك أيضًا الكثير من الجدل وعدم اليقين بشأن ما إذا كان ينبغي للبيت الأبيض والرئيس التواصل”.
وقال: “كانت إحدى المناقشات الكبيرة في الغرفة هي من تتمثل مهمته في تحديد ما إذا كان الشيء حقيقيًا أم مزيفًا”. “هل مسؤولو الانتخابات على مستوى الولاية هم الذين يقولون إننا قررنا أن هناك تزويرًا؟ هل هي شركات خاصة؟ هل هو البيت الأبيض؟”
وقال تايلور: “هذا شيء نعتقد أننا سنراه أيضًا في هذه الدورة الانتخابية”.
وعلى الرغم من أن لعبة الحرب تصورت وجود مديرين تنفيذيين في مجال التكنولوجيا مع المسؤولين الفيدراليين، إلا أن التواصل بين الحكومة الفيدرالية والشركات الخاصة حول كيفية مواجهة الدعاية الأجنبية والمعلومات المضللة قد تضاءل بشكل حاد في السنوات الأخيرة.
لقد انهار التعاون الوثيق بين المسؤولين الفيدراليين وشركات التكنولوجيا والباحثين، والذي تطور بعد انتخابات عام 2016، بسبب هجمات الجمهوريين المستمرة في الكونجرس وأحكام المحكمة التي تثني الوكالات الفيدرالية عن التشاور مع الشركات حول الإشراف على المحتوى عبر الإنترنت.
والنتيجة هي فجوة محفوفة بالمخاطر في حماية انتخابات عام 2024.
قال مسؤولون وخبراء سابقون إن حكومات الولايات تفتقر إلى الموارد اللازمة لاكتشاف التزييف العميق للذكاء الاصطناعي أو مواجهته بسرعة بمعلومات دقيقة، والآن تشعر شركات التكنولوجيا وبعض الوكالات الفيدرالية بالقلق من القيام بدور قيادي.
وقالت كاثي بوكفار، وزيرة خارجية بنسلفانيا السابقة، التي شاركت في التدريب: “الجميع مرعوبون من الدعاوى القضائية و… الاتهامات بقمع حرية التعبير”.
وقال تايلور إن مناورة الحرب في نيويورك، بالإضافة إلى الجلسات المماثلة التي يتم تنفيذها في ولايات أخرى، هي جزء من جهد أوسع لمحاولة تشجيع المزيد من التواصل بين المديرين التنفيذيين في مجال التكنولوجيا والمسؤولين الحكوميين.
ولكن في العالم خارج لعبة الحرب، قامت منصات وسائل التواصل الاجتماعي بتقليص عدد الفرق التي تخفف من محتوى الانتخابات الكاذبة، وليس هناك ما يشير إلى أن هذه الشركات مستعدة لمواصلة التعاون الوثيق مع الحكومة.
وفي الوقت نفسه، تواجه مكاتب الانتخابات الحكومية والمحلية نقصًا كبيرًا في الموظفين ذوي الخبرة. أدت موجة من التهديدات المادية والإلكترونية إلى نزوح جماعي قياسي للعاملين في الانتخابات، مما ترك وكالات الانتخابات غير مستعدة لشهر نوفمبر.
نظرًا للقلق بشأن نقص الموظفين ونقص الخبرة في وكالات الانتخابات الحكومية، يخطط تحالف من المنظمات غير الربحية والمجموعات الحكومية الجيدة لتنظيم شبكة من الحزبين الجمهوري والديمقراطي على مستوى البلاد من المسؤولين السابقين والمتخصصين في التكنولوجيا وغيرهم لمساعدة السلطات المحلية على اكتشاف التزييف العميق في الوقت الفعلي والاستجابة بمعلومات دقيقة.
وقال بينيمان، الذي تشارك منظمته في جهود أمن الانتخابات: “سيتعين علينا أن نبذل قصارى جهدنا – بشكل مستقل عن الحكومة الفيدرالية ومنصات التواصل الاجتماعي – لمحاولة سد الفجوة”.
وقالت بوكفار، وزيرة الخارجية السابقة، إنها تأمل أن تتمكن المنظمات غير الربحية من العمل كجسر بين شركات التكنولوجيا والحكومة الفيدرالية، مما يساعد في الحفاظ على قنوات الاتصال.
تقول بعض أكبر شركات تكنولوجيا الذكاء الاصطناعي إنها تقدم ضمانات لمنتجاتها وتتواصل مع المسؤولين الحكوميين للمساعدة في تعزيز أمن الانتخابات قبل انتخابات نوفمبر.
وقال متحدث باسم الشركة: “قبل الانتخابات المقبلة، وضعت OpenAI سياسات لمنع إساءة الاستخدام، وأطلقت ميزات جديدة لزيادة الشفافية حول المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، وطورت شراكات لربط الأشخاص بالمصادر الرسمية لمعلومات التصويت”. “نحن نواصل العمل جنبًا إلى جنب مع الحكومات وشركاء الصناعة والمجتمع المدني لتحقيق هدفنا المشترك المتمثل في حماية نزاهة الانتخابات في جميع أنحاء العالم.”
ومع ذلك، فإن الإنترنت مليء بشركات الذكاء الاصطناعي التوليدي الصغيرة التي قد لا تلتزم بهذه القواعد نفسها، بالإضافة إلى الأدوات مفتوحة المصدر التي تسمح للأشخاص ببناء برامج الذكاء الاصطناعي التوليدي الخاصة بهم.
ورفض متحدث باسم مكتب التحقيقات الفيدرالي التعليق على موقف افتراضي، لكنه قال إن فريق عمل التأثير الأجنبي التابع للمكتب يظل هو القائد الفيدرالي “لتحديد عمليات التأثير الأجنبي الخبيث والتحقيق فيها وتعطيلها التي تستهدف مؤسساتنا وقيمنا الديمقراطية داخل الولايات المتحدة”.
قالت وكالة الأمن السيبراني وأمن البنية التحتية الأمريكية إنها تعمل بشكل وثيق مع الوكالات الحكومية والمحلية لحماية الانتخابات في البلاد.
قال كبير المستشارين كايت: “تفتخر CISA بمواصلة الوقوف جنبًا إلى جنب مع مسؤولي الانتخابات على مستوى الولاية والمحلية أثناء دفاعهم عن عملية الانتخابات لدينا ضد مجموعة من المخاطر الأمنية السيبرانية والمادية والتشغيلية، بما في ذلك مخاطر عمليات النفوذ الأجنبي”. كونلي.
بالنسبة للعديد من الحاضرين في الغرفة، أبرزت هذه السيناريوهات الحاجة إلى تطوير حملة تثقيفية عامة طموحة لمساعدة الناخبين على التعرف على التزييف العميق وتحصين الأمريكيين من هجمة التضليل الأجنبية والمحلية القادمة.
تجري منظمة The Future US ومجموعات أخرى الآن محادثات مع كتاب ومنتجي هوليوود لتطوير سلسلة من مقاطع فيديو الخدمة العامة للمساعدة في رفع مستوى الوعي حول مقاطع الفيديو والمقاطع الصوتية الزائفة خلال الحملة الانتخابية، وفقًا لإيفان بورفيلد، كبير مسؤولي الإستراتيجية في The Future US. .
ولكن إذا فشلت حملات التثقيف العام وغيرها من الجهود في احتواء عدوى المعلومات المضللة والعنف المحتمل، فقد تواجه البلاد مأزقًا غير مسبوق بشأن من سيفوز في الانتخابات.
وقال داني كرايتون من شركة لوكس كابيتال، وهي شركة رأس مال استثماري تركز على التكنولوجيات الناشئة، إنه إذا أثيرت شكوك كافية حول ما حدث خلال الانتخابات، فهناك خطر من أن تصبح نتيجة التصويت “طريق مسدود” مع عدم وجود فائز واضح. – استضافت التمرين.
وقال كريشتون إنه إذا سارت الأمور على نحو خاطئ أو ظل الناس عالقين في صناديق الاقتراع، فإنك ستصل إلى التعادل. “وبالنسبة لي هذا هو السيناريو الأسوأ. … لا أعتقد أن نظامنا قوي بما يكفي للتعامل مع ذلك.
تم نشر هذه المقالة في الأصل على موقع NBCNews.com