طور باحثون في معهد ماساتشوستس للتكنولوجيا (MIT) جامعة البوليتكنيك في ميلانو طريقة جديدة لتحسين قدرة نماذج الذكاء الاصطناعي على تفسير قراراتها، خاصة في المجالات الحرجة مثل التشخيص الطبي. تهدف هذه الطريقة إلى جعل النماذج تشرح سبب توقعاتها باستخدام مفاهيم واضحة يفهمها البشر، مما يزيد من ثقة المستخدمين ويمكنهم من تقييم دقة المخرجات. تعتمد الفكرة الأساسية على نموذج يسمى "عنق الزجاجة المفاهيمي" (Concept Bottleneck Modeling)، حيث يُجبر النموذج العميق على استخدام مجموعة محددة من المفاهيم البشرية قبل إصدار التنبؤ النهائي. ومع ذلك، تواجه هذه الطرق التقليدية مشكلة كبيرة تتمثل في أن المفاهيم التي يحددها البشر مسبقًا قد تكون غير دقيقة أو غير كافية لمهمة معينة، مما يقلل من دقة النموذج. علاوة على ذلك، قد يعتمد النموذج على معلومات مخفية أو غير مرغوب فيها أثناء التدريب، وهو ما يُعرف بتسرب المعلومات. الحل الجديد المقدم من الفريق البحثي، بقيادة الطالب Antonio De Santis بالتعاون مع باحثين آخرين، يكمن في استخراج المفاهيم التي تعلمها النموذج بالفعل أثناء تدريبه على بيانات محددة، بدلاً من الاعتماد فقط على مفاهيم بشرية جاهزة. تتضمن هذه العملية استخدام نموذجين متخصصين من نماذج التعلم الآلي؛ الأول يسمى "المشفر الذاتي المتناثر" (Sparse Autoencoder)، الذي يقوم بفصل واستخراج أهم الميزات التي تعلمها النموذج الأصلي. والثاني هو نموذج لغة متعدد الوسائط، يقوم بترجمة هذه الميزات الرياضية المعقدة إلى مصطلحات ونصوص بلغة إنجليزية بسيطة يسهل فهمها. بعد استخراج هذه المفاهيم، يقوم الباحثون بتدريب نموذج إضافي على التعرف عليها باستخدام صور بيانات تم وصفها مسبقًا، ثم يدمجون هذا النموذج في النموذج الأصلي، مما يفرض عليه الاعتماد حصريًا على هذه المفاهيم المفهومة لإصدار التوقعات. ولتجنب التشتت أو استخدام مفاهيم غير ذات صلة، تفرض التقنية حدًا أقصى باستخدام خمسة مفاهيم فقط لكل تنبؤ، مما يجبر النموذج على اختيار الأكثر أهمية ووضوحًا. أظهرت التجارب التي شملت مهام مثل تحديد أنواع الطيور واكتشاف الآفات الجلدية في الصور الطبية، أن هذه الطريقة حققت أعلى دقة مقارنة بالطرق التقليدية، مع تقديم تفسيرات أكثر دقة ووضوحًا. ومع ذلك، يقر الباحثون بوجود مقايضة لا تزال قائمة بين القابلية للتفسير والدقة المطلقة، حيث أن النماذج "الصندوق الأسود" غير القابلة للتفسير تتفوق في بعض الأحيان على نماذجهم في الدقة الخام. في المستقبل، يخطط الفريق لمعالجة مشكلة تسرب المعلومات من خلال إضافة وحدات مفاهيمية إضافية، كما ينوون توسيع نطاق الطريقة باستخدام نماذج لغوية أكبر لتحليل مجموعات بيانات أوسع. يؤكد خبراء خارجيون أن هذا البحث يمثل خطوة واعدة نحو جعل الذكاء الاصطناعي أكثر شفافية وموثوقية، ويفتح آفاقًا جديدة لربطه بمعرفة هيكلية منظمة، مما يعزز مساءلة هذه الأنظمة في التطبيقات الحساسة.