رفعت والدة أحد أطفال إيلون ماسك دعوى قضائية ضد شركة الذكاء الاصطناعي الخاصة به، قائلة إن برنامج الدردشة Grok الخاص بها سمح للمستخدمين بإنشاء صور مزيفة استغلالية جنسيًا لها مما تسبب في إذلالها واضطرابها العاطفي.
زعمت آشلي سانت كلير، 27 عامًا، التي تصف نفسها بأنها كاتبة وخبيرة استراتيجية سياسية، في دعوى قضائية مرفوعة يوم الخميس في مدينة نيويورك ضد شركة xAI أن الصور تضمنت صورة لها وهي ترتدي ملابسها بالكامل في سن 14 عامًا والتي تم تعديلها لتظهرها بالبكيني، بينما تظهرها صور أخرى كشخص بالغ في أوضاع جنسية وترتدي بيكيني مع صلبان معقوفة. سانت كلير يهودي. Grok موجود على منصة التواصل الاجتماعي الخاصة بـ Musk X.
ولم يرد محامو xAI على الفور على رسائل البريد الإلكتروني التي تطلب التعليق يوم الجمعة. يوم الأربعاء، في أعقاب رد الفعل العالمي العنيف على الصور الجنسية للنساء والأطفال، أعلن X أن Grok لن يتمكن بعد الآن من تحرير الصور لتصوير أشخاص حقيقيين في ملابس كاشفة، في الأماكن التي يكون فيها ذلك غير قانوني.
عند سؤالها عن الدعوى القضائية ومزاعمها، ردت شركة xAI فقط بـ “Legacy Media Lies” في رسالة بالبريد الإلكتروني إلى وكالة Associated Press.
قالت سانت كلير إنها أبلغت X عن التزييف العميق بعد أن بدأت في الظهور العام الماضي وطلبت إزالتها. وقالت إن المنصة ردت أولاً بأن الصور لا تنتهك سياساتها. وأضافت أنها وعدت بعد ذلك بعدم السماح باستخدام صورها أو تغييرها دون موافقتها.
قالت سانت كلير إن المنصة الاجتماعية انتقمت منها بعد ذلك عن طريق إزالة اشتراكها المميز وعلامة التحقق، وعدم السماح لها بجني الأموال من حسابها، الذي يضم مليون متابع، والاستمرار في السماح بصور مزيفة مهينة لها.
وقالت في وثيقة مرفقة بالدعوى القضائية: “لقد عانيت وما زلت أعاني من ألم خطير واضطراب عقلي نتيجة لدور xAI في إنشاء وتوزيع هذه الصور المعدلة رقميًا لي”. “أشعر بالإهانة وأشعر أن هذا الكابوس لن يتوقف أبدًا طالما استمر جروك في توليد هذه الصور لي.”
وقالت أيضًا إنها تعيش في خوف من الأشخاص الذين يشاهدون الصور المزيفة لها.
سانت كلير هي والدة رومولوس، ابن ” ماسك ” البالغ من العمر 16 شهرًا. تعيش في مدينة نيويورك، حيث رفعت الدعوى أمام المحكمة العليا بالولاية. إنها تسعى للحصول على مبلغ لم يتم الكشف عنه من التعويضات عن التسبب المزعوم في اضطراب عاطفي ومطالبات أخرى، بالإضافة إلى أوامر المحكمة التي تمنع على الفور شركة xAI من السماح بمزيد من التزييف العميق لها.
وفي وقت لاحق من يوم الخميس، أحال محامو شركة xAI الدعوى إلى المحكمة الفيدرالية في مانهاتن، وطلبوا من القاضي الاستماع إلى القضية هناك. وفي اليوم نفسه، رفعت شركة xAI أيضًا دعوى قضائية ضد شركة St. Clair في المحكمة الفيدرالية في المنطقة الشمالية من تكساس، زاعمة أنها انتهكت شروط اتفاقية مستخدم xAI الخاصة بها والتي تتطلب رفع دعاوى قضائية ضد الشركة في المحكمة الفيدرالية في تكساس. إنها تسعى للحصول على حكم مالي لم يكشف عنه ضدها.
يقع مقر شركة X في تكساس، حيث يمتلك Musk منزلاً، كما يقع مقر شركة Tesla لصناعة السيارات الكهربائية في أوستن.
ووصفت كاري غولدبرغ، محامية سانت كلير، الدعوى المضادة بأنها خطوة “صادمة” لم يسبق لها مثيل من قبل أي مدعى عليه من قبل.
وقال غولدبرغ في بيان: “ستدافع السيدة سانت كلير بقوة عن منتداها في نيويورك”. “لكن بصراحة، ستعترف أي ولاية قضائية بخطورة ادعاءات السيدة سانت كلير – أنه من خلال تصنيع صور جنسية صريحة غير توافقية للفتيات والنساء، فإن الذكاء الاصطناعي يمثل مصدر إزعاج عام ومنتج غير آمن إلى حد معقول.”
وفي إعلانها يوم الأربعاء، قالت X إنها تطبق ضمانات أخرى على Grok، بما في ذلك تقييد إنشاء الصور وتحريرها على الحسابات المدفوعة، والتي قالت إنها ستحسن المساءلة. وقالت إنها لا تتسامح مطلقًا مع الاستغلال الجنسي للأطفال والعري غير الرضائي والمحتوى الجنسي غير المرغوب فيه، وستقوم على الفور بإزالة هذا المحتوى والإبلاغ عن الحسابات المتورطة في مواد الاعتداء الجنسي على الأطفال إلى سلطات إنفاذ القانون.