كوالالمبور ، ماليزيا (AP) – قالت السلطات الماليزية يوم الثلاثاء إنها ستتخذ إجراءات قانونية ضد منصة التواصل الاجتماعي التابعة لشركة Elon Musk ووحدة الذكاء الاصطناعي xAI الخاصة بها ، متهمة الشركتين بالفشل في ضمان سلامة مستخدمي برنامج Grok chatbot الخاص بها.
وجاءت هذه الخطوة بعد أيام فقط من أن ماليزيا وإندونيسيا أصبحتا أول دولتين تمنعان الوصول إلى تطبيق Grok، مع تزايد المخاوف من إساءة استخدامه لإنشاء صور جنسية صريحة وغير رضائية.
وقالت لجنة الاتصالات والوسائط المتعددة الماليزية في بيان إنها حددت إساءة استخدام Grok لإنشاء وتوزيع محتوى ضار بما في ذلك الصور الجنسية الصريحة وغير اللائقة والمهينة للغاية وكذلك الصور التي تم التلاعب بها بدون موافقة.
وقالت إنها قدمت إشعارات إلى X وxAI هذا الشهر لإزالة المحتوى الضار ولكن لم يتم اتخاذ أي إجراء.
وأضافت أن “المحتوى المزعوم الذي يشمل نساء وأطفال هو أمر مثير للقلق البالغ. مثل هذا السلوك يتعارض مع القانون الماليزي ويقوض الالتزامات الأمنية” التي أعلنتها الشركات. وعينت اللجنة محاميا وقالت إن الإجراءات القانونية ستبدأ قريبا.
هناك تدقيق متزايد لأدوات الذكاء الاصطناعي التوليدية التي يمكنها إنتاج صور وصوت ونصوص واقعية، ومخاوف من فشل الضمانات الحالية في منع إساءة استخدامها.
تم إطلاق Grok في عام 2023، وهو مجاني للاستخدام على X. تمت إضافة ميزة إنشاء الصور، Grok Imagine، في العام الماضي وتضمنت ما يسمى بالوضع الحار الذي يمكنه إنشاء محتوى للبالغين. تعرض جروك لانتقادات بسبب إنتاجه صورًا تم التلاعب بها، بما في ذلك تصوير النساء بالبكيني أو أوضاع جنسية صريحة، بالإضافة إلى الصور التي تتضمن أطفالًا.
وتعرضت شركة “غروك” لضغوط في الاتحاد الأوروبي والهند والمملكة المتحدة، التي قالت يوم الاثنين إنها تتحرك لتجريم “تطبيقات العري”. كما أطلقت هيئة تنظيم الإعلام في بريطانيا تحقيقًا فيما إذا كان جروك قد انتهك القانون من خلال السماح للمستخدمين بمشاركة الصور الجنسية للأطفال.
في الأسبوع الماضي، قصرت شركة Grok إنتاج الصور وتحريرها على المستخدمين الذين يدفعون رسومًا في أعقاب رد الفعل العالمي العنيف على التزييف العميق الجنسي للأشخاص، لكن النقاد يقولون إنها لم تعالج المشكلة بشكل كامل.
ولم يعلق ماسك وشركاته علنًا على قيود جنوب شرق آسيا. يقدم xA1 ردًا تلقائيًا على استفسارات الوسائط التي تنص على “Legacy Media Lies.”