نيو أورليانز – دفع مستشار ديمقراطي عمل في حملة رئاسية منافسة لساحر من نيو أورليانز لاستخدام الذكاء الاصطناعي لانتحال شخصية الرئيس جو بايدن في مكالمة آلية أصبحت الآن في مركز تحقيق لإنفاذ القانون متعدد الولايات، وفقًا للرسائل النصية وسجلات المكالمات. ومعاملات Venmo التي شاركها المنشئ مع NBC News.
يقول بول كاربنتر إنه تم تعيينه في يناير من قبل ستيف كرامر – الذي عمل على الوصول إلى بطاقات الاقتراع للمرشح الرئاسي الديمقراطي دين فيليبس – لاستخدام برامج الذكاء الاصطناعي لتقليد صوت بايدن وهو يحث الديمقراطيين في نيو هامبشاير على عدم التصويت في الانتخابات التمهيدية الرئاسية بالولاية.
“لقد قمت بإنشاء الصوت المستخدم في المكالمة الآلية. وقال كاربنتر في مقابلة في نيو أورليانز، حيث يقيم حاليًا: “لم أقم بتوزيعها”. “لقد كنت في موقف حيث عرض عليّ أحدهم بعض المال للقيام بشيء ما، وقد فعلت ذلك. ولم تكن هناك نية خبيثة. ولم أكن أعرف كيف سيتم توزيعها”.
أظهر كاربنتر – الذي يحمل أرقامًا قياسية عالمية في ثني الشوكة والهروب من السترات المقيدة، ولكن ليس لديه عنوان ثابت – لشبكة إن بي سي نيوز كيف أنشأ التسجيل الصوتي المزيف لبايدن وقال إنه تقدم لأنه يأسف لتورطه في المحنة ويريد تحذير الناس حول كيفية ذلك. من السهل استخدام الذكاء الاصطناعي للتضليل.
وقال إن إنشاء الصوت المزيف استغرق أقل من 20 دقيقة وكلف دولارًا واحدًا فقط، وحصل على 150 دولارًا مقابله، وفقًا لمدفوعات Venmo من كرامر ووالده، بروس كرامر، التي شاركها.
قال كاربنتر: “إنه أمر مخيف للغاية لدرجة أنه من السهل القيام بذلك”. “الناس ليسوا مستعدين لذلك.”
شارك كاربنتر ما يقول إنه الملف الصوتي الأصلي الذي تم إنشاؤه باستخدام Eleven Labs والذي يبدو أنه نسخة كاملة وعالية الجودة من تسجيل المكالمة التي ذكرتها NBC News سابقًا.
وقد جذبت المكالمة الآلية اهتمامًا كبيرًا من نيو هامبشاير ومسؤولي إنفاذ القانون الفيدراليين لاحتمال انتهاكها لقمع الناخبين في الولاية وقوانين الاتصالات الفيدرالية. ذكر المسؤولون اسم شركة في دالاس تم استخدامها لإجراء المكالمات الهاتفية التلقائية للناخبين قبل الانتخابات التمهيدية في الولاية، وتعهدوا بالتحقيق، مشيرين إلى رغبتهم في جعل المشاركين في أول مثال معروف لنظام الذكاء الاصطناعي عبرة. تم نشر التزييف العميق بشكل ضار في حملة سياسية أمريكية. ولم تحدد السلطات كاربنتر أو ستيف كرامر كأهداف لتحقيقاتها.
اللاعبين
ستيف كرامر هو ناشط سياسي منذ فترة طويلة، حيث عمل في عشرات الحملات على مدار 20 عامًا بما في ذلك الحملة الرئاسية لعام 2020 لمغني الراب المعروف سابقًا باسم كاني ويست.
لم يستجب ستيف كرامر في البداية لطلبات متعددة للتعليق. وبعد أيام، قال إنه سينتظر للحديث عن هذا الأمر حتى ينشر شيئًا يوم السبت. وقال في رسالة نصية: “مقالتي الافتتاحية ستشرح كل شيء”.
أعربت حملة فيليبس والمرشح نفسه عن غضبهما عندما سُئلا عن تورط ستيف كرامر المزعوم، قائلين إنهما لن يعملا معه مرة أخرى وقد يلجأان إلى إجراءات قانونية إذا تم تأكيد هذه المزاعم.
لم تر NBC News أي دليل على أن الحملة وجهت ستيف كرامر لإنتاج أو نشر المكالمة الآلية.
تظهر سجلات لجنة الانتخابات الفيدرالية أن ستيف كرامر حصل على أجره 259,946 دولار من خلال حملة فيليبس في ديسمبر ويناير. وكانت هذه المدفوعات مخصصة لأعمال الوصول إلى بطاقات الاقتراع في نيويورك وبنسلفانيا، والتي تتضمن فحص الأصوات للحصول على التوقيعات اللازمة للتأهل للاقتراع. وقالت الحملة إن العمل تضمن إنتاج وتوزيع مكالمة آلية تتميز بصوت فيليبس.
أشارت المدفوعات المدرجة في ملفات تمويل الحملات إلى أن ستيف كرامر قام بعمل من أجل الحصول على حق التصويت
وقالت كاتي دولان، السكرتيرة الصحفية لفيليبس: “إذا كان صحيحًا أن السيد كرامر كان له أي دور في إنشاء مكالمات آلية عميقة، فقد فعل ذلك بمحض إرادته، وهو ما لا علاقة له بحملتنا”. “الفكرة الأساسية لحملتنا هي أهمية المنافسة والاختيار والديمقراطية. نشعر بالاشمئزاز عندما علمنا أن السيد كرامر يقف وراء هذه الدعوة، وإذا كانت هذه الادعاءات صحيحة، فإننا ندين أفعاله تمامًا.
وقالت حملة فيليبس إن علاقتها مع ستيف كرامر انتهت قبل عدة أسابيع، بعد أن أكمل عقده لجمع التوقيعات لمساعدة المرشح على الحصول على بطاقة الاقتراع في الولايات المخصصة له، ولم يكن هناك أي اتصال معه حتى وقت متأخر من يوم الخميس.
الساحر والمستشار السياسي
ولم يكن كاربنتر، الذي ولد في هيوستن، ويطلق على نفسه اسم “فنان الحياة الرقمي الرحّل”، يتوقع أن ينتهي به الأمر وسط فضيحة سياسية وطنية عندما قال إنه التقى ستيف كرامر العام الماضي.
وقال كاربنتر، الذي يستضيف أيضًا بثًا صوتيًا، وأنشأ مقاطع فيديو تعليمية عن العقلية، ويقول إنه قدم عروضًا في 24 دولة: “الشيء الوحيد المفقود في السيرك السياسي هو الساحر، وأنا هنا”.
وفي السنوات القليلة الماضية، قال إنه كان يبني برامج كمبيوتر ويجرب NFTs وإنشاء المحتوى والذكاء الاصطناعي.
يركب دراجة نارية مع مزيج Dachshund-Chihuahua الخاص به، والذي يرتدي نظارات واقية للكلاب. آرائه السياسية غريبة الأطوار.
يتحدث عن إيمانه بنظريات المؤامرة اليمينية مثل “الدولة العميقة” ولديه “بعض المشكلات” مع الهبوط الأول على سطح القمر، لكنه يقول أيضًا إنه قدم قطعة فنية أدائية حيث وضع مرحاضًا خزفيًا على مقعد الرئيس السابق دونالد ترامب. نجمة على ممشى المشاهير في هوليوود وتظاهرت بالعمل عليها.
لقد قام بالعديد من الأعمال المثيرة التي تهدف إلى الاستفزاز، كما يقول، مثل تلك التي ارتدى فيها ورقة تين فقط في تايمز سكوير في مدينة نيويورك كتعبير عن “الأصالة الراديكالية”، وأخرى صور فيها نفسه وهو يصور العديد من الأمريكيين. النماذج الأصلية، بما في ذلك المتعصب الأبيض الذي يحمل صليبًا معقوفًا على جبهته، والذي يقول إنه يهدف إلى إظهار أننا جميعًا بشر، على الرغم من مدى كرهنا لبعضنا البعض.
وقال كاربنتر إنه تم التعرف عليه وستيف كرامر من خلال أحد المعارف المشتركة، حيث قام ببعض أعمال تصميم الويب وإدارة وسائل التواصل الاجتماعي، كما أبدى اهتمامًا بتجربته مع الذكاء الاصطناعي.
قال كاربنتر إنه يعتقد أن ستيف كرامر كان يعمل لصالح الأشخاص الذين طُلب منه تقليد أصواتهم وأن المشاريع الصوتية مرخصة من خلال الحملات. لم يسمع عن فيليبس وقال إنه لم يكن على علم بعمل ستيف كرامر لصالح المرشح.
قال كاربنتر إن المشروعين الأولين انتحلا شخصية السيناتور ليندسي جراهام، عضو الحزب الجمهوري، على ما يبدو لاستخدامهما في استطلاعات الروبوت التي تسأل الناخبين الرئاسيين في الحزب الجمهوري عن المرشح الذي يدعمونه. والثالث كان التسجيل الصوتي المزيف لبايدن الذي يطلب من الديمقراطيين عدم المشاركة في نيو هامبشاير.
أرسل ستيف كرامر رسالة نصية إلى كاربنتر في 27 سبتمبر، وفقًا للرسائل النصية التي شاركها كاربنتر مع شبكة إن بي سي نيوز: “لديك مشروع صوتي للذكاء الاصطناعي”. رقم الهاتف الموجود في تلك الرسائل النصية لستيف كرامر يتطابق مع بحث السجلات عبر الإنترنت وتم تأكيده أيضًا أثناء التواصل معه للتعليق. أرسل ستيف كرامر بعد ذلك إلى كاربنتر عينة صوتية من صوت سيناتور ساوث كارولينا وقال إنه سيرسل “نصًا لاستطلاع رأي بيريز ليتوافق مع صوت SC المذكور أعلاه”.
في يناير، قبل ثلاثة أيام من الانتخابات التمهيدية الرئاسية في نيو هامبشاير، أرسل ستيف كرامر رسالة نصية إلى كاربنتر مرة أخرى، قائلًا إنه أرسل له نصًا عبر البريد الإلكتروني. للدفع، قام ستيف كرامر بعد ذلك بتوجيه كاربنتر إلى والده، بروس كرامر، لأسباب غير معروفة لكاربنتر.
تُظهر معاملات Venmo حسابًا باسم Bruce Kramer دفع لـ Carpenter مبلغ 150 دولارًا في معاملتين في 20 يناير.
وقال بروس كرامر في مقابلة هاتفية قصيرة يوم الخميس: “ليس لدي ما أقوله حول هذا الموضوع”.
في 22 كانون الثاني (يناير)، عندما نشرت شبكة إن بي سي نيوز لأول مرة خبر المكالمة الهاتفية المزيفة لبايدن، أرسل ستيف كرامر رسالة نصية إلى كاربنتر تحتوي على رابط للقصة مع الرسالة “Shhhhhh”، والتي رد عليها كاربنتر بـ “Gtfooh”، وهو اختصار يستخدم للتعبير عن دهشة.
تُظهر لقطات الشاشة لسجلات المكالمات العديد من المكالمات الهاتفية المتبادلة بين ستيف كرامر وكاربنتر خلال الساعات العديدة التالية. يقول كاربنتر إنه امتثل لطلب ستيف كرامر بحذف مراسلاتهم عبر البريد الإلكتروني بالكامل، والتي يقول إنها تضمنت نصوص مكالمة بايدن الآلية المزيفة وتعليمات أخرى.
تلقى استراتيجي ديمقراطي مخضرم لا يعرف ستيف كرامر شخصيًا رسالة عاجلة منه في 30 يناير يطلب فيها التحدث عن مكالمة بايدن الآلية. ولم يرد العامل، الذي طلب عدم الكشف عن هويته للحديث عن المحادثة الخاصة.
من هو ستيف كرامر؟
ستيف كرامر، رئيس شركته الصغيرة، هو متخصص في الدعوة إلى التصويت وقد عمل في العشرات من الحملات الديمقراطية في معظمها على مدار العشرين عامًا الماضية، بما في ذلك بعض الحملات البارزة. يتمتع بخبرة واسعة في مجال المكالمات الآلية، وفقًا لسجلات تمويل الحملات الفيدرالية والولائية.
كان يقيم سابقًا في نيويورك، وله تاريخ من العمل في سياسة مدينة نيويورك. تظهره صفحته على فيسبوك بشكل متكرر وهو يقضي إجازة ويستمتع بالحياة الليلية في نيو أورليانز أو ميامي وهو يرتدي قميصًا صاخبًا ويحمل مشروبًا في يده.
لقد عمل ستيف كرامر في العديد من الحملات الكبرى، لكن هذه ليست المرة الأولى التي يثير فيها الجدل.
في عام 2020، عمل في الحملة الرئاسية المستقلة لمغني الراب يي المعروف سابقًا باسم كاني ويست، حيث ساعده في الوصول إلى صناديق الاقتراع في عدة ولايات وتحدث بشكل رسمي باعتباره أحد كبار الاستراتيجيين للحملة. انتهى الأمر بـ Ye بمواجهة مشاكل بشأن وصوله إلى بطاقة الاقتراع في ثلاث ولايات وتعرض لانتقادات أيضًا بسبب تعليقاته حول العبودية.
في عام 2021، رفعت العميلة السابقة، سارة تيرشويل، الجمهورية التي كانت تترشح لمنصب عمدة مدينة نيويورك، دعوى قضائية ضد ستيف كرامر. واتهمته بتخريب حملتها من خلال تسليم التوقيعات التي انتهى معظمها إلى أنها غير صالحة، مما منعها من الوصول إلى بطاقة الاقتراع. وقد رفض التعليق على الدعاوى القضائية المعلقة لكنه نفى الاتهامات في ملفات المحكمة ولا تزال القضية مفتوحة.
لقد شارك أيضًا في حملة Nomiki Konst لعام 2019 للمحامي العام لمدينة نيويورك والتي قادت مسؤول الامتثال السابق لديها إلى تقديم شكوى رسمية إلى وكالة تمويل الحملات الانتخابية بالمدينة بشأن مدفوعات غامضة لشركة في لويزيانا كان ستيف كرامر متورطًا فيها. زعمت كونست أن الشكوى كانت سياسية بالكامل، وقد دخلت في دعوى قضائية مع مسؤول الامتثال، الذي رفع دعوى قضائية عليها بعد ذلك بتهمة التشهير.
كيف تم صنع التزييف العميق
أظهر كاربنتر لشبكة إن بي سي نيوز كيف ابتكر تقليد صوت بايدن، باستخدام صوت المراسل كبديل لتجنب انتهاك شروط اتفاقيات الخدمة الخاصة بمنصة الذكاء الاصطناعي ضد الاستخدام غير المصرح به لصوت الشخص.
لقد استخدم Eleven Labs، وهو مولد صوت يعمل بالذكاء الاصطناعي لتحويل النص إلى كلام والذي تم تحديده بواسطة تحليل NBC News وخبراء خارجيين كأداة مستخدمة لإنشاء مكالمة بايدن الآلية. كما استخدم أيضًا أدوات الذكاء الاصطناعي المجانية في الغالب لإظهار كيف يمكنه إضافة الصوت إلى مقطع فيديو لشخص يتحدث وتحريك شفاهه لتتناسب.
قال كاربنتر: “أنا لا أعرض عليك أي شيء لا يمكنك تعلم كيفية القيام به على موقع يوتيوب”.
أظهر كاربنتر أيضًا أن حسابه السابق في Eleven Labs، المرتبط بعنوان بريده الإلكتروني الرئيسي، قد تم إغلاقه من قبل الشركة برسالة تقول: “لقد أغلقنا حسابك بسبب نشاط غير عادي.” وقال كاربنتر إن الحساب تم إغلاقه بعد أيام من NBC نشرت الأخبار القصة لأول مرة، وهو ما يتوافق مع تقرير بلومبرج الذي يفيد بأن Eleven Labs حظرت الحساب الذي أنشأ الصوت الآلي في 26 يناير.
يتم تمثيله مجانًا من قبل محامٍ وجده على موقع Reddit، وهو براندون كيزي، وهو محامي دفاع جنائي ومحامي التعديل الأول ومقره في ديترويت.
قال كيزي: “لم يكن لدى بول معرفة مسبقة بما سيتم استخدام المحتوى الناتج عن الذكاء الاصطناعي ولم يكن لدى بول أي علم بأنه سيتم استخدامه للتأثير أو استخدامه فيما يتعلق بأي انتخابات أو نشاط ناخب”.
حتى الآن، ركز الجزء العام من تحقيقات إنفاذ القانون في المكالمات على شركة تسويق عبر الهاتف في تكساس يقولون إنها وزعت المكالمات الآلية. قالت سلطات نيو هامبشاير إنها طلبت من المسؤولين الفيدراليين فحص ما إذا كانت المكالمات تنتهك قانون حماية المستهلك الهاتفي؛ الحقيقة في قانون تحديد هوية المتصل؛ وقانون التسويق عبر الهاتف والاحتيال على المستهلك ومنع إساءة استخدامه.
وصلت مكالمات بايدن المزيفة إلى ما بين 5000 و25000 شخص و”انتحلت” الرقم الأصلي، بحسب السلطات، لتظهر على هوية المتصل كما لو كانت قادمة من الرئيس السابق للحزب الديمقراطي في نيو هامبشاير، الذي كان يدير انتخابات مؤيدة لبايدن. حملة الكتابة في ذلك الوقت.
قال المدعي العام لولاية نيو هامبشاير، جون فورميلا، في وقت سابق من هذا الشهر: “لم نشهد قط شيئًا قريبًا جدًا من الانتخابات من قبل وبمثل هذه المحاولة الصارخة لتضليل الناخبين”. “لا نريد أن يكون هذا هو الأول من بين العديد.”
تم نشر هذه المقالة في الأصل على موقع NBCNews.com