منح الذكاء الاصطناعي القدرة على “التفكير” في “تفكيره”

هل سبق لك أن قمت بتجربة إعادة قراءة الجملة عدة مرات لتدرك أنك مازلت لا تفهمها؟ كما تعلمنا للعشرات من الطلاب الجدد في الكلية، عندما تدرك أنك تدور في عجلة من أمرك، فقد حان الوقت لتغيير نهجك.

هذه العملية، إدراك شيء لا يعمل ثم تغيير ما تفعله، هو جوهر ما وراء المعرفة، أو التفكير في التفكير.

إنه عقلك الذي يراقب تفكيره، ويتعرف على المشكلة، ويتحكم في أسلوبك أو يعدله. في الواقع، يعد ما وراء المعرفة أمرًا أساسيًا للذكاء البشري، وحتى وقت قريب، لم تتم دراسته جيدًا في أنظمة الذكاء الاصطناعي.

نعمل أنا وزملائي تشارلز كورشين وهيفي تشيو وجوشوا إياكوبوني على تغيير ذلك. لقد قمنا بتطوير إطار رياضي مصمم للسماح لأنظمة الذكاء الاصطناعي التوليدية، وخاصة نماذج اللغات الكبيرة مثل ChatGPT أو Claude، بمراقبة وتنظيم العمليات “المعرفية” الداخلية الخاصة بها. بمعنى ما، يمكنك التفكير في الأمر على أنه يمنح الذكاء الاصطناعي التوليدي حوارًا داخليًا، وطريقة لتقييم ثقته بنفسه، واكتشاف الارتباك، وتحديد متى يجب التفكير بجدية أكبر في مشكلة ما.

لماذا تحتاج الآلات إلى الوعي الذاتي؟

تتمتع أنظمة الذكاء الاصطناعي التوليدية اليوم بقدرة ملحوظة ولكنها غير واعية بشكل أساسي. إنهم يصدرون استجابات دون أن يعرفوا حقًا مدى الثقة أو الارتباك الذي قد تكون عليه استجاباتهم، وما إذا كانت تحتوي على معلومات متضاربة، أو ما إذا كانت المشكلة تستحق اهتمامًا إضافيًا. ويصبح هذا القيد بالغ الأهمية عندما يكون لعدم قدرة الذكاء الاصطناعي التوليدي على التعرف على عدم اليقين الخاص به عواقب وخيمة، لا سيما في التطبيقات عالية المخاطر مثل التشخيص الطبي، والمشورة المالية، واتخاذ القرارات المتعلقة بالمركبات ذاتية القيادة.

على سبيل المثال، لنأخذ بعين الاعتبار نظام الذكاء الاصطناعي التوليدي الطبي الذي يقوم بتحليل الأعراض. قد يقترح بثقة تشخيصًا دون أي آلية للتعرف على المواقف التي قد يكون من المناسب فيها التوقف والتأمل، مثل “هذه الأعراض تتعارض مع بعضها البعض” أو “هذا أمر غير عادي، يجب أن أفكر بعناية أكبر”.

يتطلب تطوير مثل هذه القدرة ما وراء المعرفة، والذي يتضمن القدرة على مراقبة تفكير الفرد من خلال الوعي الذاتي والتحكم في الاستجابة من خلال التنظيم الذاتي.

مستوحى من علم الأحياء العصبي، يهدف إطار عملنا إلى إعطاء الذكاء الاصطناعي التوليدي مظهرًا من هذه القدرات باستخدام ما نسميه ناقل الحالة ما وراء المعرفية، والذي يعد في الأساس مقياسًا كميًا للحالة “المعرفية” الداخلية للذكاء الاصطناعي التوليدي عبر خمسة أبعاد.

5 أبعاد للوعي الذاتي للآلة

إحدى طرق التفكير في هذه الأبعاد الخمسة هي تخيل إعطاء نظام الذكاء الاصطناعي التوليدي خمسة أجهزة استشعار مختلفة لتفكيره.

• الوعي العاطفي، لمساعدته على تتبع المحتوى المشحون عاطفيًا، والذي قد يكون مهمًا لمنع المخرجات الضارة.

• تقييم الصحة، والذي يقيس مدى ثقة النموذج اللغوي الكبير في صحة استجابته.

• تجربة المطابقة، حيث تتحقق مما إذا كان الموقف يشبه شيئًا سبق أن واجهه.

• اكتشاف الصراعات، حتى يتمكن من تحديد المعلومات المتناقضة التي تتطلب الحل.

• أهمية المشكلة، لمساعدتها على تقييم المخاطر والحاجة الملحة لتحديد أولويات الموارد.

نقوم بقياس كل من هذه المفاهيم ضمن إطار رياضي شامل لإنشاء ناقل الحالة ما وراء المعرفية واستخدامه للتحكم في مجموعات نماذج اللغة الكبيرة. في جوهر الأمر، يقوم ناقل الحالة ما وراء المعرفية بتحويل التقييمات الذاتية النوعية لنموذج لغوي كبير إلى إشارات كمية يمكن استخدامها للتحكم في استجاباته.

على سبيل المثال، عندما تنخفض ثقة نموذج لغة كبير في الاستجابة إلى أقل من عتبة معينة، أو تتجاوز التعارضات في الاستجابة بعض المستويات المقبولة، فقد يتحول من المعالجة السريعة والحدسية إلى التفكير البطيء والتداولي. وهذا مشابه لما يسميه علماء النفس نظام التفكير 1 والنظام 2 عند البشر.

قيادة أوركسترا

تخيل مجموعة كبيرة من نماذج اللغات كأوركسترا حيث يأتي كل موسيقي – نموذج لغة فردي كبير – في أوقات معينة بناءً على الإشارات الواردة من قائد الفرقة الموسيقية. يعمل ناقل الحالة ما وراء المعرفية بمثابة وعي قائد الفرقة الموسيقية، حيث يراقب باستمرار ما إذا كانت الأوركسترا متناغمة، أو ما إذا كان شخص ما خارج التناغم، أو ما إذا كان المقطع الصعب بشكل خاص يتطلب اهتمامًا إضافيًا.

عند أداء مقطوعة موسيقية مألوفة تم التدرب عليها جيدًا، مثل اللحن الشعبي البسيط، تعزف الأوركسترا بسهولة في انسجام سريع وفعال مع الحد الأدنى من التنسيق المطلوب. هذا هو وضع النظام 1. يعرف كل موسيقي دوره، والتناغمات واضحة، وتعمل المجموعة تلقائيًا تقريبًا.

ولكن عندما تواجه الأوركسترا مقطوعة جاز معقدة ذات بصمات زمنية متضاربة أو تناغمات متنافرة أو مقاطع تتطلب الارتجال، يحتاج الموسيقيون إلى تنسيق أكبر. يوجه القائد الموسيقيين إلى تغيير الأدوار: يصبح بعضهم قادة القسم، والبعض الآخر يوفر التثبيت الإيقاعي، ويظهر عازفون منفردون لمقاطع محددة.

هذا هو نوع النظام الذي نأمل في إنشائه في سياق حسابي من خلال تنفيذ إطار عملنا، وتنسيق مجموعات من نماذج اللغات الكبيرة. يقوم ناقل الحالة ما وراء المعرفية بإبلاغ نظام التحكم الذي يعمل كموصل، ويطلب منه تبديل الأوضاع إلى النظام 2. ويمكنه بعد ذلك أن يطلب من كل نموذج لغة كبير أن يتولى أدوارًا مختلفة – على سبيل المثال، الناقد أو الخبير – وينسق تفاعلاتهم المعقدة بناءً على التقييم ما وراء المعرفي للموقف.

التأثير والشفافية

وتمتد الآثار المترتبة على ذلك إلى ما هو أبعد من جعل الذكاء الاصطناعي التوليدي أكثر ذكاءً قليلاً. في مجال الرعاية الصحية، يمكن لنظام الذكاء الاصطناعي التوليدي ما وراء المعرفي التعرف على الحالات التي لا تتطابق فيها الأعراض مع الأنماط النموذجية وتصعيد المشكلة إلى الخبراء البشريين بدلاً من المخاطرة بالتشخيص الخاطئ. وفي التعليم، يمكنه تكييف استراتيجيات التدريس عندما يكتشف ارتباك الطلاب. وفي الإشراف على المحتوى، يمكنها تحديد المواقف الدقيقة التي تتطلب حكمًا بشريًا بدلاً من تطبيق قواعد صارمة.

ولعل الأهم من ذلك هو أن إطار عملنا يجعل عملية صنع القرار في مجال الذكاء الاصطناعي أكثر شفافية. فبدلاً من الصندوق الأسود الذي ينتج الإجابات ببساطة، نحصل على أنظمة يمكنها تفسير مستويات ثقتهم، وتحديد أوجه عدم اليقين لديهم، وإظهار سبب اختيارهم لاستراتيجيات تفكير معينة.

تعد قابلية التفسير والتفسير أمرًا بالغ الأهمية لبناء الثقة في أنظمة الذكاء الاصطناعي، خاصة في الصناعات الخاضعة للتنظيم أو التطبيقات الحيوية للسلامة.

الطريق أمامنا

إطار عملنا لا يمنح الآلات الوعي أو الوعي الذاتي الحقيقي بالمعنى الإنساني. وبدلاً من ذلك، أملنا هو توفير بنية حسابية لتخصيص الموارد وتحسين الاستجابات التي تعمل أيضًا كخطوة أولى نحو أساليب أكثر تطوراً لتحقيق ما وراء المعرفة الاصطناعي الكامل.

تتضمن المرحلة التالية من عملنا التحقق من صحة الإطار من خلال اختبارات مكثفة، وقياس كيفية تحسين المراقبة ما وراء المعرفية للأداء عبر المهام المتنوعة، وتوسيع الإطار لبدء التفكير حول التفكير المنطقي، أو التفكير فوق المعرفي. نحن مهتمون بشكل خاص بالسيناريوهات التي يكون فيها الاعتراف بعدم اليقين أمرًا بالغ الأهمية، كما هو الحال في التشخيص الطبي، والاستدلال القانوني، وتوليد الفرضيات العلمية.

رؤيتنا النهائية هي أنظمة الذكاء الاصطناعي التوليدية التي لا تعالج المعلومات فحسب، بل تفهم حدودها ونقاط قوتها المعرفية. وهذا يعني الأنظمة التي تعرف متى تكون واثقة ومتى تكون حذرة، ومتى تفكر بسرعة ومتى تتباطأ، ومتى تكون مؤهلة للإجابة ومتى يجب عليها الإذعان للآخرين.

تم إعادة نشر هذا المقال من The Conversation، وهي منظمة إخبارية مستقلة غير ربحية تقدم لك حقائق وتحليلات جديرة بالثقة لمساعدتك على فهم عالمنا المعقد. كتب بواسطة: ريكي جي سيثي، جامعة ولاية فيتشبورج; معهد ووستر للفنون التطبيقية

اقرأ المزيد:

تلقى ريكي جيه سيثي تمويلًا من مؤسسة العلوم الوطنية، وجوجل، وأمازون.