RISE: عيّنة مدخلات عشوائية لتفسير نماذج الصندوق الأسود

تُستخدم الشبكات العصبية العميقة بشكل متزايد لتمكين التحليل الآلي للبيانات واتخاذ القرارات، ومع ذلك فإن عملية اتخاذ القرار الخاصة بها غير واضحة إلى حد كبير وتكون صعبة في شرحها للمستخدم النهائي. في هذا البحث، نتناول مشكلة الذكاء الاصطناعي القابل للتفسير (Explainable AI) بالنسبة للشبكات العصبية العميقة التي تأخذ الصور كمدخلات وتنتج احتمالية فئة كمخرجات. نقترح منهجية تسمى RISE والتي تولد خريطة الأهمية تشير إلى مدى بروز كل بكسل للتنبؤ الخاص بالنموذج. على عكس النماذج البيضاء (white-box) التي تقدير أهمية البكسل باستخدام التدرجات أو حالات داخلية أخرى للشبكة، تعمل RISE على النماذج السوداء (black-box). فهي تقدير الأهمية بطريقة تجريبية من خلال اختبار النموذج بنسخ مخفية عشوائيًا من الصورة المدخلة والحصول على المخرجات المقابلة. نقارن منهجيتنا مع أفضل طرق استخراج الأهمية باستخدام مقياس حذف/إدراج آلي ومقياس الإشارة المستند إلى قطع الأجسام التي تم تعليمها يدويًا. أظهرت التجارب الواسعة على عدة مجموعات بيانات معيارية أن منهجيتنا تتطابق أو تتفوق على أداء الطرق الأخرى، بما في ذلك النماذج البيضاء (white-box).صفحة المشروع: http://cs-people.bu.edu/vpetsiuk/rise/