تم حظر تطبيق Grok الخاص بـ Elon Musk من قبل إندونيسيا وماليزيا، وهما الدولتان الأولى التي قامت بذلك بعد أن غمرت وظيفة “التعرية الرقمية” لأداة الذكاء الاصطناعي الإنترنت بصور النساء والقاصرين في صور موحية وفاحشة تم التلاعب بها.
يتزايد الضغط الدولي على Musk لكبح جماح Grok في أعقاب الاتجاه الفيروسي حيث يطلب المستخدمون من أداة الذكاء الاصطناعي إنشاء مقاطع جنسية صريحة عميقة.
Grok هي أداة موجودة على منصة الوسائط الاجتماعية الخاصة بـ Musk X، والمعروفة سابقًا باسم Twitter.
وقال وزير الرقمية الإندونيسي ميوتيا حفيظ في بيان يوم السبت إن الحظر يهدف إلى “حماية النساء والأطفال والجمهور الأوسع من مخاطر المحتوى الإباحي المزيف الذي يتم إنشاؤه باستخدام تكنولوجيا الذكاء الاصطناعي”.
أعلنت ماليزيا عن حظرها المؤقت يوم الأحد في أعقاب “سوء استخدام Grok المتكرر لإنتاج صور فاحشة، وصريحة جنسيًا، وغير لائقة، ومهينة بشكل صارخ، وغير موافق عليها، بما في ذلك المحتوى الذي يتضمن النساء والقاصرين”.
إندونيسيا وماليزيا دولتان ذات أغلبية مسلمة وتطبقان قوانين صارمة لمكافحة المواد الإباحية.
تواصلت CNN مع الشركة الأم xAI للتعليق.
كما أعرب المسؤولون في المملكة المتحدة والاتحاد الأوروبي والهند عن مخاوفهم بشأن حواجز حماية جروك.
في السابق، قال Musk وxAI إنهما كانا يعالجان المشكلة من خلال تعليق الحسابات المخالفة بشكل دائم و”العمل مع الحكومات المحلية وجهات إنفاذ القانون”. لكن ردود جروك على طلبات المستخدمين كانت لا تزال مليئة بالصور التي تضفي طابعًا جنسيًا على النساء
ينظر العديد من المستخدمين إلى Grok على أنه نموذج غريب مقارنة بنماذج الذكاء الاصطناعي السائدة الأخرى من خلال السماح بالمحتوى الجنسي الصريح والصور الرمزية المصاحبة، وفي بعض الحالات الترويج لها.
بدأت الزيادة في اتجاه التعري الرقمي في أواخر العام الماضي عندما اكتشف العديد من المستخدمين أن بإمكانهم وضع علامة على Grok على X وجعله يتلاعب بالصور.
وقد دفع المستخدمون برنامج الدردشة الآلي إلى إنشاء صور لأشخاص يرتدون البكيني ويتظاهرون بشكل إيحائي، مما تسبب في معاناة مئات الآلاف من النساء في جميع أنحاء العالم.
قام الباحثون في AI Forensics، وهي منظمة أوروبية غير ربحية تحقق في الخوارزميات، بتحليل أكثر من 20000 صورة عشوائية تم إنشاؤها بواسطة Grok و50000 طلب مستخدم في الفترة ما بين 25 ديسمبر و1 يناير.
وقد وجد الباحثون “نسبة عالية من انتشار المصطلحات بما في ذلك “وضعها”/”إزالة”، و”بيكيني”، و”ملابس”.
أكثر من نصف الصور التي تم إنشاؤها لأشخاص “تحتوي على أفراد يرتدون ملابس بسيطة مثل الملابس الداخلية أو البيكينيات”.
المسك يقاوم الرقابة
علنًا، دافع ” ماسك ” منذ فترة طويلة عن نماذج الذكاء الاصطناعي “المستيقظة” وما يسميه بالرقابة.
لكن الملياردير عارض وجود حواجز حماية لـ Grok داخل الشركة، حسبما قال مصدر مطلع على الوضع في xAI لشبكة CNN.
فقد فريق السلامة xAI، وهو فريق صغير بالفعل مقارنة بمنافسيه، العديد من الموظفين في الأسابيع التي سبقت الجدل.
قال ماسك إن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه عواقب. لكنه نفى إلى حد كبير المخاوف بشأن المحتوى الجنسي على التطبيق، قائلا إن الحكومات “تريد فقط قمع حرية التعبير” والرد على الانتقادات باستخدام الرموز التعبيرية.
في الأسبوع الماضي، قصرت Grok بعض ميزات إنشاء الصور الخاصة بها على المشتركين X المدفوعين، لكن القيود تنطبق فقط على إحدى الطرق التي يتفاعل بها المستخدمون مع Grok.
لا يزال بإمكان غير المشتركين أن يطلبوا من Grok تحرير الصور على التطبيق، ولا تزال وظائف إنشاء الصور والفيديو متاحة مجانًا من خلال موقع الويب والتطبيق المستقل الخاص به.
ودعت وزيرة التكنولوجيا البريطانية ليز كيندال يوم الجمعة إلى اتخاذ إجراءات سريعة لمحاربة الصور المزيفة العميقة.
وقالت: “إن التلاعب الجنسي بصور النساء والأطفال أمر حقير وبغيض”.
وأضافت: “أتوقع أن تستخدم هيئة Ofcom السلطات القانونية الكاملة التي منحها لها البرلمان”، في إشارة إلى هيئة تنظيم الاتصالات المستقلة في المملكة المتحدة.
ساهمت هاداس جولد وتريستا كورنياوان من سي إن إن في إعداد التقارير.
لمزيد من الأخبار والنشرات الإخبارية لـ CNN، قم بإنشاء حساب على CNN.com