يتحول روبوت الدردشة إلى عدائي. نسخة تجريبية من فراغ Roomba تجمع صور المستخدمين في المواقف الخاصة. يتم تعريف المرأة السوداء بشكل خاطئ على أنها مشتبه بها على أساس برنامج التعرف على الوجه، والذي يميل إلى أن يكون أقل دقة في التعرف على النساء والأشخاص ذوي البشرة الملونة.
هذه الحوادث ليست مجرد مواطن خلل، ولكنها أمثلة على مشاكل أكثر جوهرية. مع تزايد اندماج الذكاء الاصطناعي وأدوات التعلم الآلي في الحياة اليومية، تتزايد الاعتبارات الأخلاقية، بدءًا من قضايا الخصوصية والتحيزات العرقية والجنسانية في البرمجة إلى انتشار المعلومات المضللة.
يعتمد عامة الناس على مهندسي البرمجيات وعلماء الكمبيوتر لضمان إنشاء هذه التقنيات بطريقة آمنة وأخلاقية. باعتبارنا عالم اجتماع ومرشح دكتوراه مهتمًا بتعليم العلوم والتكنولوجيا والهندسة والرياضيات، فإننا نقوم حاليًا بالبحث في كيفية تعلم المهندسين في العديد من المجالات المختلفة وفهمهم لمسؤولياتهم تجاه الجمهور.
ومع ذلك، تشير أبحاثنا الأخيرة، وكذلك أبحاث باحثين آخرين، إلى حقيقة مثيرة للقلق: يبدو أن الجيل القادم من المهندسين غالبًا ما يكون غير مستعد للتعامل مع الآثار الاجتماعية لعملهم. علاوة على ذلك، يبدو البعض غير مبالٍ بالمعضلات الأخلاقية التي قد تجلبها حياتهم المهنية ــ تماما كما يؤدي التقدم في الذكاء الاصطناعي إلى تفاقم مثل هذه المعضلات.
واعية، ولكن غير مستعدة
كجزء من بحثنا المستمر، أجرينا مقابلات مع أكثر من 60 طالب ماجستير في الهندسة الكهربائية وعلوم الكمبيوتر في أحد أفضل برامج الهندسة في الولايات المتحدة. سألنا الطلاب عن تجاربهم مع التحديات الأخلاقية في الهندسة، ومعرفتهم بالمعضلات الأخلاقية في هذا المجال وكيف سيستجيبون للسيناريوهات في المستقبل.
أولاً، الأخبار الجيدة: أدرك معظم الطلاب المخاطر المحتملة للذكاء الاصطناعي وأعربوا عن قلقهم بشأن الخصوصية الشخصية وإمكانية التسبب في ضرر – مثل كيفية كتابة التحيزات العرقية والجنسانية في الخوارزميات، عن قصد أو عن غير قصد.
على سبيل المثال، أعرب أحد الطلاب عن فزعه من التأثير البيئي للذكاء الاصطناعي، قائلًا إن شركات الذكاء الاصطناعي تستخدم “المزيد والمزيد من الطاقة الدفيئة، [for] الحد الأدنى من الفوائد.” وناقش آخرون المخاوف بشأن مكان وكيفية تطبيق الذكاء الاصطناعي، بما في ذلك التكنولوجيا العسكرية وتوليد معلومات وصور مزورة.
ومع ذلك، عندما يُسأل: “هل تشعر بأنك مجهز للرد في المواقف المثيرة للقلق أو غير الأخلاقية؟” غالبًا ما قال الطلاب لا.
”لا يوجد. أجاب أحد الطلاب: “إنه أمر مخيف نوعًا ما”. “هل تعرف إلى من يفترض أن أذهب؟”
وكان آخر منزعجًا من نقص التدريب: “أنا [would be] التعامل مع ذلك دون خبرة. … من يعرف كيف سأرد.
وبالمثل، وجد باحثون آخرون أن العديد من طلاب الهندسة لا يشعرون بالرضا عن التدريب الأخلاقي الذي يتلقونه. يركز التدريب المشترك عادةً على قواعد السلوك المهني، بدلاً من العوامل الاجتماعية التقنية المعقدة التي تكمن وراء اتخاذ القرار الأخلاقي. تشير الأبحاث إلى أنه حتى عند تقديم سيناريوهات أو دراسات حالة معينة، فإن طلاب الهندسة غالبًا ما يجدون صعوبة في التعرف على المعضلات الأخلاقية.
“مربع للتحقق”
يُطلب من البرامج الهندسية المعتمدة أن “تشمل موضوعات تتعلق بالمسؤوليات المهنية والأخلاقية” في بعض القدرات.
ومع ذلك، نادراً ما يتم التركيز على التدريب على الأخلاقيات في المناهج الرسمية. وجدت دراسة لتقييم مناهج العلوم والتكنولوجيا والهندسة والرياضيات للطلاب الجامعيين في الولايات المتحدة أن تغطية القضايا الأخلاقية تتباين بشكل كبير من حيث المحتوى والكمية ومدى جدية تقديمها. بالإضافة إلى ذلك، وجد تحليل للأدبيات الأكاديمية حول التعليم الهندسي أن الأخلاقيات غالبًا ما تعتبر تدريبًا غير ضروري.
يعبر العديد من أعضاء هيئة التدريس في الهندسة عن عدم رضاهم عن فهم الطلاب، لكنهم أفادوا عن شعورهم بالضغط من زملاء الهندسة والطلاب أنفسهم لإعطاء الأولوية للمهارات التقنية في وقتهم الدراسي المحدود.
أجرى الباحثون في إحدى الدراسات التي أجريت عام 2018 مقابلات مع أكثر من 50 من أعضاء هيئة التدريس بالهندسة ووثقوا التردد – وأحيانًا المقاومة الصريحة – تجاه دمج قضايا الصالح العام في فصول الهندسة الخاصة بهم. رأى أكثر من ربع الأساتذة الذين تمت مقابلتهم أن الأخلاقيات والتأثيرات المجتمعية تقع خارج نطاق العمل الهندسي “الحقيقي”.
حوالي ثلث الطلاب الذين أجرينا مقابلات معهم في مشروعنا البحثي المستمر يشتركون في هذا اللامبالاة الواضحة تجاه التدريب على الأخلاقيات، مشيرين إلى دروس الأخلاق على أنها “مجرد مربع يجب وضع علامة عليه”.
وقال أحدهم: “إذا كنت سأدفع المال لحضور دروس الأخلاق كمهندس، فسوف أشعر بالغضب”.
تمتد هذه المواقف أحيانًا إلى كيفية رؤية الطلاب لدور المهندسين في المجتمع. على سبيل المثال، قال أحد الأشخاص الذين تمت مقابلتهم في دراستنا الحالية إن “مسؤولية المهندس هي فقط إنشاء ذلك الشيء وتصميمه و… إخبار الناس بكيفية استخدامه. [Misusage] القضايا لا تعنيهم.”
تابع أحدنا، إيرين تشيك، مجموعة مكونة من 326 طالب هندسة من أربع كليات أمريكية. يشير هذا البحث، الذي نُشر في عام 2014، إلى أن المهندسين أصبحوا في الواقع أقل اهتمامًا على مدار دراستهم بمسؤولياتهم الأخلاقية وفهم العواقب العامة للتكنولوجيا. وبعد متابعتهم بعد أن تركوا الكلية، وجدنا أن مخاوفهم بشأن الأخلاقيات لم تنتعش بمجرد دخول هؤلاء الخريجين الجدد إلى سوق العمل.
الانضمام إلى عالم العمل
عندما يتلقى المهندسون تدريبًا على الأخلاقيات كجزء من درجتهم العلمية، يبدو الأمر ناجحًا.
بالتعاون مع أستاذة الهندسة سينثيا فينيلي، أجرينا دراسة استقصائية لأكثر من 500 مهندس موظف. من المرجح أن يفهم المهندسون الذين تلقوا تدريبًا رسميًا على الأخلاقيات والرعاية العامة في المدرسة مسؤوليتهم تجاه الجمهور في أدوارهم المهنية، ويدركون الحاجة إلى حل المشكلات بشكل جماعي. بالمقارنة مع المهندسين الذين لم يتلقوا التدريب، كانوا أكثر عرضة بنسبة 30% لملاحظة مشكلة أخلاقية في أماكن عملهم وأكثر احتمالاً بنسبة 52% لاتخاذ الإجراءات اللازمة.
أفاد أكثر من ربع هؤلاء المهندسين الممارسين أنهم واجهوا موقفًا أخلاقيًا مقلقًا في العمل. ومع ذلك، قال ما يقرب من الثلث إنهم لم يتلقوا أي تدريب في مجال الرعاية العامة – ليس أثناء تعليمهم، ولا خلال حياتهم المهنية.
تثير هذه الفجوة في تعليم الأخلاقيات تساؤلات جدية حول مدى استعداد الجيل القادم من المهندسين للتنقل عبر المشهد الأخلاقي المعقد في مجالهم، خاصة عندما يتعلق الأمر بالذكاء الاصطناعي.
من المؤكد أن عبء الاهتمام بالصالح العام لا يتحمله المهندسون والمصممون والمبرمجون وحدهم. الشركات والمشرعون يتقاسمون المسؤولية.
لكن الأشخاص الذين يقومون بتصميم واختبار وضبط هذه التكنولوجيا هم خط الدفاع الأول للجمهور. ونحن نعتقد أن البرامج التعليمية مدينون لها – ولبقيتنا – بأخذ هذا التدريب على محمل الجد.
تم إعادة نشر هذا المقال من The Conversation، وهي منظمة إخبارية مستقلة غير ربحية تقدم لك حقائق وتحليلات لمساعدتك على فهم عالمنا المعقد.
كتب بواسطة: إيلانا جولدينكوف، جامعة ميشيغان وإيرين أ. تشيك، جامعة ميشيغان.
اقرأ أكثر:
تتلقى إيلانا جولدينكوف تمويلًا من المؤسسة الوطنية للعلوم وشركة شميدت فيوتشرز.
إيرين أ. تشيك تتلقى تمويلًا من المؤسسة الوطنية للعلوم.