يخطط آباء المراهقين الذين قتلوا أنفسهم بعد التفاعلات مع chatbots الذكاء الاصطناعي للإدلاء بشهادته إلى الكونغرس يوم الثلاثاء حول مخاطر التكنولوجيا.
ماثيو رين ، والد آدم ريني من كاليفورنيا ، وميجان جارسيا ، والدة ، من سيويل سيتزر الثالث ، البالغ من العمر 14 عامًا ، من المقرر أن يتحدثوا إلى جلسة استماع في مجلس الشيوخ عن الأضرار التي يطرحها منظمة العفو الدولية.
رفعت عائلة رين دعوى قضائية ضد Openai ورئيسها التنفيذي سام ألمان الشهر الماضي بزعم أن Chatgpt قام بتدريب الصبي على التخطيط لتولي حياته في أبريل. رفع غارسيا دعوى قضائية ضد شركة أخرى ، وهي شركة Technologies ، بسبب الوفاة غير المشروعة العام الماضي ، بحجة أنه قبل انتحاره ، أصبح Sewell معزولًا بشكل متزايد عن حياته الحقيقية أثناء مشاركته في محادثات جنسية للغاية مع chatbot.
___
ملاحظة المحرر – تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى مساعدة ، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو الرسائل النصية 988.
___
قبل ساعات من جلسة استماع مجلس الشيوخ ، تعهد Openai بطرح ضمانات جديدة للمراهقين ، بما في ذلك الجهود المبذولة لاكتشاف ما إذا كان مستخدمو ChatGPT أقل من 18 عامًا وتمكين الآباء من تعيين “ساعات التعتيم” عندما لا يستطيع المراهق استخدام ChatGPT. انتقدت مجموعات الدعوة للأطفال هذا الإعلان على أنه ليس كافيًا.
وقال جوش جولن ، المدير التنفيذي لشركة Fairplay ، وهي مجموعة تدافع عن سلامة الأطفال عبر الإنترنت: “هذا تكتيك شائع إلى حد ما – إنه تكتيك يستخدمه Meta طوال الوقت – وهو إصدار إعلان كبير ورائع عشية جلسة استماع وعدت بأن تكون ضارة للشركة”.
وقال جولين: “ما يجب عليهم فعله هو عدم استهداف chatgpt للقاصرين حتى يتمكنوا من إثبات أنه آمن بالنسبة لهم”. “يجب ألا نسمح للشركات ، لمجرد أن لديهم موارد هائلة ، بإجراء تجارب غير خاضعة للرقابة على الأطفال عندما تكون الآثار المترتبة على تطورها واسعة للغاية.”
قالت لجنة التجارة الفيدرالية في الأسبوع الماضي إنها أطلقت تحقيقًا في العديد من الشركات حول الأضرار المحتملة للأطفال والمراهقين الذين يستخدمون شودرهم من الذكاء الاصطناعى كرفقة.
أرسلت الوكالة رسائل إلى الشخصية ، Meta و Openai ، وكذلك إلى Google و Snap و Xai.