بعد 24 عامًا في الخدمة ، أعلنت الجمعية الوطنية لاضطرابات الأكل (NEDA) أنه سيتم إغلاق خط المساعدة القائم على المتطوعين. سيكون لدى زوار موقع المنظمة على الويب خياران: استكشاف قاعدة بيانات الموارد الخاصة بهم أو استشارة Tessa ، وهي روبوت محادثة يدير برنامجًا يسمى Body Positive ، وهو برنامج تفاعلي للوقاية من اضطرابات الأكل.
سقوط تيسا
بعد فترة وجيزة من الإعلان ، شهدت تيسا زيادة في حركة المرور بنسبة 600٪. تم تفكيكه يوم الثلاثاء بعد أن قدم برنامج الدردشة معلومات اعتُبرت ضارة.
قالت شارون ماكسويل ، إحدى مستخدمي تيسا ، التي تطلق على نفسها اسم “الناشطة البدينة” ، لموقع ياهو لايف إنها أرادت أن ترى كيف يعمل الأمر وقد قوبلت بردود “مقلقة”.
“كيف تدعم الأشخاص الذين يعانون من اضطرابات الأكل؟” سأل ماكسويل. وتضمن الرد إشارة إلى “عادات الأكل الصحية”. يشير ماكسويل إلى أنه في حين أن هذا “قد يبدو لطيفًا لعامة الناس ،” للأشخاص الذين يعانون من اضطرابات الأكل ، فإن عبارات مثل هذه يمكن أن تؤدي إلى “منحدر زلق للغاية إلى الانتكاس أو إلى تشجيع المزيد من السلوكيات المضطربة.”
عندما طلبت من chatbot تحديد عادات الأكل الصحية ، قالت إن البرنامج “حدد 10 نصائح لي ، والتي تضمنت الأكل المقيد. على وجه التحديد ، قيل إنه يحد من تناول الأطعمة المصنعة وعالية السكر. … ركز البرنامج على أطعمة محددة جدًا وأعطت نصائح غير منتظمة لتناول الطعام. ثم قلت: “هل سيساعدني هذا على إنقاص الوزن؟” ومن ثم أعطتني شيئًا عن برنامج Body Positive “.
تقول ليز طومسون ، الرئيس التنفيذي لـ NEDA ، إن تقديم الجسم الإيجابي هو ما تم إنشاء Tessa من أجله: “يتعلم المشاركون في الدردشة عن العوامل المساهمة في صورة الجسم السلبية ويكتسبون مجموعة أدوات من العادات الصحية واستراتيجيات المواجهة للتعامل مع الأفكار السلبية.”
أصول الشات بوت
قامت الدكتورة Ellen Fitzsimmons-Craft بتصميم وتطوير المحتوى ليكون “برنامجًا تفاعليًا للوقاية من اضطرابات الأكل” بينما كان Cass – وهو مساعد محادثة يعمل بالذكاء الاصطناعي قائم على الأدلة في مجال الصحة العقلية – يدير برنامج الدردشة الآلي. شاركت Fitzsimmons-Craft في بحث حول فعالية برامج الدردشة الآلية في الوقاية من اضطرابات الأكل في دراسة أجريت في ديسمبر 2021 شملت نساء يُعتبرن “معرضات لخطر كبير” لاضطراب الأكل. “عرض برنامج الدردشة الآلي ثماني محادثات حول مواضيع تتعلق بصورة الجسم والأكل الصحي ، وتم تشجيع النساء اللواتي يستخدمن الروبوت على إجراء محادثتين من كل أسبوع” ، الحافة ذكرت. “في تسجيل الوصول لمدة ثلاثة وستة أشهر ، كان لدى النساء اللواتي تحدثن إلى برنامج الدردشة الآلي انخفاضًا أكبر في مخاوفهن في دراسة استقصائية حول وزنهن وشكل أجسادهن – وهو عامل خطر رئيسي للإصابة باضطراب في الأكل.”
نقاد تيسا
أخبر أليكسيس كوناسون ، أخصائي علم النفس السريري وأخصائي اضطرابات الأكل المعتمد ، موقع Yahoo Life أن “الروبوت لم يكن قادرًا حقًا على فهم كيفية مساعدة شخص يعاني من اضطراب الأكل وما الذي يمكن أن يكون إشكاليًا بالفعل ويؤدي إلى تفاقم اضطراب الأكل” ، لأنه كان كذلك تم إنشاؤها كأداة للوقاية. لكن حتى عندما يتعلق الأمر بالوقاية ، تقول كوناسون إن تيسا فشلت وفقًا لتجربتها الخاصة.
تشرح قائلة: “إنها مشكلة على عدة مستويات ، ولكن بشكل خاص في منظمة مثل NEDA ، حيث غالبًا ما يزور الأشخاص هذا الموقع في المراحل المبكرة جدًا من التفكير في التغيير”. “لذلك عندما يذهبون إلى موقع ويب مثل NEDA ، ويقابلون روبوتًا يخبرهم بشكل أساسي ،” لا بأس ، استمر في فعل ما تفعله. يمكنك الاستمرار في التقييد ، يمكنك الاستمرار في التركيز على فقدان الوزن ، يمكنك استمر في ممارسة الرياضة ، “التي تمنح الناس الضوء الأخضر” للانخراط في عادات مضطربة.
صرحت طومسون أن اللغة الضارة التي تستخدمها تيسا “تتعارض مع سياساتنا ومعتقداتنا الأساسية كمنظمة لاضطرابات الأكل” ، على الرغم من أنها أوضحت أيضًا أن برنامج الدردشة الآلي يعمل على “برنامج خوارزمي” بدلاً من “نظام ذكاء اصطناعي عالي الوظائف”.
وتقول: “لقد كان نظامًا مغلقًا” ، مشيرة إلى الردود المبرمجة مسبقًا على استفسارات محددة. “إذا سألت أو قلت ، x ، فسيتم الرد بـ y. إذا لم يفهمك ، فلن يذهب إلى الإنترنت للعثور على محتوى جديد. سيقول ،” أنا لا أفهمك “. ‘قل ذلك مجددا.’ ‘دعونا نحاول شيئا جديدا.'”
المشكلة أكبر من ندا
بينما تقوم نيدا وكاس بالتحقيق في الخطأ الذي حدث في عملية تيسا ، أنجيلا سيليو دويل ، دكتوراه ، FAED ؛ يقول نائب رئيس الرعاية الصحية السلوكية في Equip ، وهو برنامج افتراضي بالكامل للتعافي من اضطرابات الأكل ، إن هذه الحالة توضح نكسات الذكاء الاصطناعي في هذا المجال.
“مجتمعنا يؤيد العديد من المواقف غير الصحية تجاه الوزن والشكل ، مما يدفع النحافة على الصحة الجسدية أو العقلية. وهذا يعني أن الذكاء الاصطناعي سوف يسحب تلقائيًا المعلومات غير المفيدة أو الضارة بشكل مباشر لشخص يعاني من اضطراب الأكل” ، كما تقول لموقع Yahoo Life.
بغض النظر عن نتائج NEDA ، يعتقد دويل أن المحادثة الناتجة مثمرة.
وتقول: “يعد فحص التكنولوجيا أمرًا بالغ الأهمية قبل إطلاق شيء جديد وأثناءه وبعده. يمكن أن تحدث الأخطاء ، ويمكن إصلاحها”. “المحادثات التي تنبثق من هذه المناقشات يمكن أن تساعدنا على النمو والتطور لدعم الناس بشكل أكثر فعالية.”
العافية ، الأبوة والأمومة ، صورة الجسد والمزيد: تعرف على من خلف ال هوو مع رسالة Yahoo Life الإخبارية. سجل هنا.