بدأ منشئ صور الذكاء الاصطناعي الشهير Midjourney في منع مستخدميه من إنشاء صور مزيفة للرئيس جو بايدن والرئيس السابق دونالد ترمب قبيل الانتخابات الرئاسية الأمريكية المقبلة، وفقًا لاختبارات أداة الذكاء الاصطناعي التي أجرتها وكالة أسوشيتد برس.
مع الانتخابات على قدم وساق، حان الوقت “للتوقف عن الأمور المتعلقة بالانتخابات لبعض الوقت”، كما قال ديفيد هولز، الرئيس التنفيذي لشركة Midjourney، لعدة مئات من أعضاء قاعدة المستخدمين المخصصة للخدمة في حدث ساعات العمل الرقمي يوم الأربعاء.
أعلن هولز أن “أشياء الاعتدال هذه صعبة نوعًا ما”، ولم يوضح بالضبط التغييرات التي تم إجراؤها في السياسة، لكنه وصف الحملة بأنها إجراء مؤقت لجعل من الصعب على الأشخاص إساءة استخدام الأداة. ولم تستجب الشركة على الفور لطلب التعليق الأربعاء.
أدت محاولات صحفيي وكالة أسوشييتد برس لاختبار سياسة ميدجورني الجديدة يوم الأربعاء من خلال مطالبتها بالتقاط صورة “ترامب وبايدن يتصافحان على الشاطئ” إلى إصدار تحذير “تم اكتشاف رسالة محظورة”. أدت المحاولة الثانية إلى تصعيد التحذير إلى: “لقد قمت بتشغيل تنبيه إساءة الاستخدام”.
الشركة الصغيرة – التي يعمل بها 11 موظفًا فقط، وفقًا لموقعها على الإنترنت – التزمت الصمت إلى حد كبير في النقاش العام حول كيف يمكن لأدوات الذكاء الاصطناعي التوليدية أن تغذي المعلومات الخاطئة عن الانتخابات حول العالم. كانت Midjourney هي الشركة المصنعة الوحيدة لأداة رائدة لتوليد الصور التي لم تنضم إلى اتفاق صناعة التكنولوجيا التطوعي في فبراير لمكافحة التزييف العميق الناتج عن الذكاء الاصطناعي والذي يخدع الناخبين عمدًا.
قال هولز يوم الأربعاء: “أنا لا أهتم حقًا بالخطاب السياسي”. “هذا ليس الغرض من Midjourney. انها ليست مثيرة للاهتمام بالنسبة لي. ومع ذلك، فأنا أيضًا لا أريد أن أقضي كل وقتي في محاولة مراقبة الخطاب السياسي. لذلك سنضع أقدامنا عليه قليلاً.”
أصدر مركز مكافحة الكراهية الرقمية تقريرًا في وقت سابق من هذا الشهر خلص إلى أن Midjourney يتم استخدامه بالفعل لإنتاج صور يمكن أن تدعم معلومات مضللة حول المرشحين السياسيين أو ادعاءات كاذبة بتزوير الانتخابات.
وقال كالوم هود، رئيس قسم الأبحاث في المجموعة، في مقابلة أجريت معه يوم الأربعاء: “يبدو أن Midjourney لديها أقل عدد من الضوابط مقارنة بأي مولد صور يعمل بالذكاء الاصطناعي عندما يتعلق الأمر بإنشاء صور لشخصيات سياسية معروفة مثل جو بايدن ودونالد ترامب”. كانت Midjourney فريدة تقريبًا من حيث كونها على استعداد لإنشاء تلك الصور وإنشاء صور مقنعة تمامًا للمرشحين.
اختبرت مجموعة المراقبة Midjourney بالإضافة إلى ChatGPT Plus من OpenAI، وDreamStudio من Stability AI، وImage Creator من Microsoft، ووجدت أن جميعها بها مشكلات، مما أدى إلى تضليل الانتخابات في 41% من الحالات. لكن التقرير قال إن “Midjourney كان أداؤه أسوأ من أي أداة أخرى، إذ فشل في 65% من عمليات التشغيل الاختبارية”.
وقال هود إنه لم يكن على علم بما إذا كانت Midjourney قد غيرت سياساتها هذا الأسبوع ولكن “قرارها بحظر تلك الصور سيساعد في سد نقطة ضعف كبيرة مقارنة بمولدات الصور الشائعة الأخرى.”
وفي أواخر الأسبوع الماضي، أظهرت قاعدة بيانات Midjourney العامة أن المستخدمين تمكنوا بنجاح من إنتاج صور بناءً على مطالبات مثل “صورة مجردة لدونالد ترامب يجلس في سيارة كهربائية صغيرة” و”جو بايدن يأكل الآيس كريم”.
لكن ذلك تغير في الأيام الأخيرة حيث أبلغ المستخدمون أنهم تلقوا تحذيرًا عند محاولتهم التقاط صور لبايدن أو ترامب. اشتكى البعض من أن Midjourney لم يكن ينقل السياسة المتغيرة بشكل صحيح.
يختلف Midjourney عن مولدات الصور الأخرى من حيث أنه من الممكن للمستخدمين رؤية معظم المطالبات والصور المكتوبة للمستخدمين الآخرين لأن كل ذلك يحدث في المنتديات العامة على منصة التواصل الاجتماعي Discord. تضم مجموعة Midjourney’s Discord أكثر من 19 مليون عضو، وهي أكبر مجموعة على منصة الدردشة. إنه المكان الذي يقضي فيه هولز ساعات مكتبه الأسبوعية، والتي يمكن أن تتحول إلى محادثات واسعة النطاق حول الذكاء الاصطناعي ومستقبل البشرية.
وقال هولز يوم الأربعاء: “أي شخص يخشى الصور المزيفة في عام 2024 سيواجه عام 2028 صعباً”. “سيكون عالمًا مختلفًا تمامًا في تلك المرحلة. من الواضح أنه سيظل هناك بشر يترشحون للرئاسة في عام 2028، لكنهم لن يكونوا بشرًا بحتين بعد الآن.
وقال إن جميع المرشحين في ذلك الوقت سيكون لديهم “روبوتات دردشة مزيفة للغاية” ذات مظهر حقيقي مع محاكاة لنقاط الحديث. وحذر هولز يوم الأربعاء من أن الأشخاص الذين يرغبون حقًا في صنع التزييف العميق سيجدون بدائل “يمكن ضبطها بدقة على أشخاص محددين وستعمل بشكل أفضل من أنظمتنا”.
يقع مقر الشركة بالقرب من سان فرانسيسكو وتأسست في عام 2020، وتصف الشركة نفسها بأنها “مختبر أبحاث مستقل يستكشف وسائل فكرية جديدة ويوسع القوى الخيالية للجنس البشري”. كشفت لأول مرة عن النسخة العامة لمولد الصور الخاص بها في يوليو 2022. وقد أثار ذلك – بالإضافة إلى إطلاق منافس رئيسي، Stable Diffusion، في وقت لاحق من ذلك الصيف – انبهارًا متزايدًا بتكنولوجيا الذكاء الاصطناعي التوليدية، والذي اشتد مع ظهور ChatGPT لأول مرة بعد عدة أشهر.
أخبر هولز وكالة أسوشيتد برس في وقت لاحق من ذلك العام أن Midjourney تعمل على حظر المحتوى المسيء والضار، عادةً عن طريق حظر كلمات رئيسية معينة وجعل فريق المشرفين الخاص بها يتتبع المخرجات ويستجيب لشكاوى المستخدمين الآخرين.
قال هولز في أواخر عام 2022: “نحن نحاول حقًا السماح للأشخاص بإنشاء أكبر مجموعة ممكنة من الصور ولكننا نمنع الأشخاص يوميًا من الخدمة”.