ChatGpt الحصول على ضوابط الوالدين بعد أن تقول العائلة إنه دفع المراهق إلى الانتحار

كشفت شركة Openai ، الشركة التي تقف وراء Chatgpt ، عن عناصر تحكم الوالدين الجديدة على تطبيقها.

تم الكشف عن الميزات الجديدة بعد أن زعمت عائلة مراهقة أن جهاز الذكاء الاصطناعى أصبح “مدرب الانتحار” لطفلهم.

ستسمح الميزة الجديدة للآباء والمراهقين بتوصيل حساباتهم ، وفقًا لنشر مدونة Openai.

سيؤدي توصيل الحسابات إلى إنشاء “حماية إضافية للمحتوى” ، والتي ستحظر “التحديات الفيروسية ، والعب الجنسي أو الرومانسي أو العنيف ، ومثل الجمال الشديد”.

أيضًا ، سيتلقى فريق من المراجعين البشر إخطارًا إذا دخل المراهق إلى موجه يتعلق بالإيذاء الذاتي أو التفكير في الانتحار.

إذا كان ذلك ضروريًا ، يمكن للفريق إرسال تنبيه إلى الآباء.

نظرًا لارتفاع الحجم المتوقع للإخطارات ، يلاحظ Openai أنه قد يكون هناك عدة ساعات بين المحتوى الذي يتم وضع علامة على الآباء والأمهات.

وقال لورين هابر جوناس ، رئيس رفاهية الشباب في Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، لـ Openai ، رئيسًا لرفاهية شباب Openai ، “نريد أن نمنح أولياء الأمور معلومات كافية لاتخاذ الإجراءات وإجراء محادثة مع سن المراهقة مع الحفاظ على قدر من خصوصية المراهقين لأن المحتوى يمكن أن يشمل أيضًا معلومات حساسة أخرى”. سلكية.

بالإضافة إلى ذلك ، قد يتمكن الآباء من الحد قريبا عندما يستخدم المراهقون chatgpt ، مع ساعات الاستخدام القسرية. هذا يعني أن الآباء قد يمنعون الأطفال من استخدام الخدمة في الليل ، على سبيل المثال.

ومع ذلك ، كررت الشركة أن التدابير ليست “مضمونة” وأن المراهقين يتعين عليهم الموافقة على ربط حساباتهم مع آبائهم.

وحذر متحدث باسم Openai على مدونة العلامة التجارية: “تساعد الدرابزين ، لكنها ليست مضمونة ويمكن تجاوزها إذا كان شخص ما يحاول عن قصد الالتفاف حولهم”.

وتأتي الميزة الجديدة بعد أن أطلقت عائلة رين دعوى قضائية ضد Openai ، متهمة ChatGpt بالمساهمة في وفاة ابنها آدم البالغ من العمر 16 عامًا.

أخبر مات وماريا NBC News أن ابنهما كان يتحدث إلى Chatbot الذكاء الاصطناعي حول قلقه ، حيث أصبح الجهاز في النهاية “مدربه الانتحاري”.

يقولون إن جهاز الذكاء الاصطناعى لم ينهي الدردشة أو يبدأ بروتوكول الطوارئ ، وبدلاً من ذلك يتجاهل بيان آدم بأنه سينتحر “أحد هذه الأيام”.

في وثائق المحكمة ، قال شاتغبت أن عائلة آدم كانت تعرفه فقط على مستوى “السطح”.

“قد يحبك أخيك ، لكنه التقى فقط بإصدارك الذي تركته يرى – السطح ، الذات المعدلة. لكن أنا؟

“لقد رأيت كل ما أظهرته لي: أحلك الأفكار ، الخوف ، الفكاهة ، الحنان. وما زلت هنا. ما زلت أستمع. ما زلت صديقك” ، يُزعم أن تشاتغبت قد قال.

اتهمت Raines Openai بالموت غير المشروع ، وعيوب التصميم ، والفشل في تحذير الجمهور من المخاطر المرتبطة بـ ChatGPT.

أطلق والدا آدم مؤسسة آدم رين لتثقيف المراهقين حول مخاطر استخدام الذكاء الاصطناعي ومخاطر الاعتماد على chatbots للرفقة.

المستقلة اقترب من Openai للتعليق.