يقول رئيس الذكاء الاصطناعي في بايدن إن “استنساخ الصوت” هو ما يبقيه مستيقظا في الليل

• يشعر رئيس الذكاء الاصطناعي في بايدن، بروس ريد، بالقلق بشأن التزييف الصوتي العميق.

• وقال إن “استنساخ الصوت” هو الشيء الوحيد الذي يبقيه مستيقظا في الليل، حسبما ذكرت صحيفة بوليتيكو.

• أصبحت منصات استنساخ الصوت عرضة لسوء الاستخدام بسبب إمكانية الوصول إليها.

أصبحت تكنولوجيا الذكاء الاصطناعي القادرة على إعادة إنشاء الأصوات البشرية بشكل مقنع مصدر قلق رئيسي بين المشرعين.

وقال بروس ريد، نائب كبير موظفي البيت الأبيض: “إن استنساخ الصوت هو الشيء الوحيد الذي يبقيني مستيقظا في الليل”. أخبر بوليتيكو. ووصف ريد، المكلف بقيادة استراتيجية الذكاء الاصطناعي لإدارة بايدن، التكنولوجيا بأنها “جيدة بشكل مخيف”، على الرغم من أنها لا تزال جديدة إلى حد ما.

وقال: “لم يتبلور للمجتمع بعد إلى أي مدى يمكن لفكرة الصوت المزيف أن تقلب حياتنا رأساً على عقب. لن يجيب أحد على الهاتف إذا لم يكن متأكداً مما إذا كان الصوت على الجانب الآخر حقيقياً أم مزيفاً”. بوليتيكو.

المحتالون عبر الهاتف، على سبيل المثال، كانوا موجودين بالفعل استغلال التقدم في استنساخ الصوت التكنولوجيا لجعل مخططاتهم أكثر تصديقا.

في شهر مارس، قالت لجنة التجارة الفيدرالية (FTC) إن المحتالين كانوا يعتمدون على تقنية الذكاء الاصطناعي “لتعزيز” عمليات الاحتيال في حالات الطوارئ العائلية – باستخدام برامج الاستنساخ الصوتي لإقناع الأشخاص بأن أفراد أسرهم في محنة.

في أبريل/نيسان، تلقت إحدى الأمهات في ولاية أريزونا مكالمة هاتفية من محتال استخدم برنامج استنساخ الصوت للتظاهر بأنه اختطف ابنتها. وقالت لإحدى وسائل الإعلام المحلية في ذلك الوقت: “لقد كان صوتها بالكامل. لقد كان نبرة صوتها”. يحتاج المحتالون إلى ثلاث أو أربع ثوانٍ فقط من صوت شخص ما لإنشاء نسخة مقنعة بنسبة 85٪، وفقًا لـ تقرير من برنامج الحماية McAfee.

وفي الوقت نفسه عمدة مدينة نيويورك إريك آدامز يقول إن استنساخ صوته بواسطة الذكاء الاصطناعي ساعده على التواصل مع شريحة واسعة من سكان المدينة.

منذ العام الماضي وهو كذلك يقوم بالاتصال الآلي بالمقيمين بعدد قليل من اللغات التي لا يتحدثها، بما في ذلك الماندرين والإسبانية واليديشية. يقول آدامز إن المكالمات الآلية ساعدته في الوصول إلى المزيد من سكان المدينة غير الناطقين باللغة الإنجليزية. حتى أن الناس أوقفوه في الشارع ليسألوه إذا كان يتحدث لغة الماندرين. يقول بعض الأكاديميين وخبراء الخصوصية إن مبادرة آدم لا تزال خادعة، أو على الأقل تشير إلى حقيقة أن السياسيين بحاجة إلى وضع قواعد أساسية أكثر وضوحًا حول كيفية استخدام الذكاء الاصطناعي.

العديد من هذه المنصات جاهزة لسوء الاستخدام. يمكن الوصول إليها، واستخدامها بسيط جدًا.

ويعتمد آدامز على منصة استنساخ الصوت من ElevenLabs وهي مجانية الاستخدام وتحتاج إلى أقل من دقيقة واحدة من صوت الفرد لإنشاء نسخة “عالية الجودة”. حسب إلى موقعها على الانترنت. وبعد وقت قصير من إطلاق النسخة التجريبية في يناير، أصدرت ElevenLabs بيانًا قالت فيه إنها لاحظت عددًا متزايدًا من “حالات إساءة استخدام استنساخ الصوت”.

لم تقدم ElevenLabs تفاصيل محددة حول الحالات في ذلك الوقت، لكن Vice ذكرت تم تحميل المقاطع الصوتية العميقة لجو روغان وبن شابيرو وإيما واتسون وهم يقدمون تعليقات عنصرية وعنيفة ومعادية للمتحولين جنسيًا من خلال برنامجها على موقع لوحة الصور 4chan.

اقرأ المقال الأصلي على Business Insider