"لماذا يجب أن أثق بك؟": شرح تنبؤات أي تصنيف

رغم الاعتماد الواسع على نماذج التعلم الآلي، فإنها تظل في الغالب صناديق سوداء. ومع ذلك، فإن فهم الأسباب وراء التنبؤات مهم للغاية لتقييم الثقة، وهي أمور أساسية إذا كان الشخص يخطط لاتخاذ إجراء بناءً على تنبؤ، أو عند اختيار ما إذا كان سيتم نشر نموذج جديد. هذا الفهم أيضًا يوفر رؤى حول النموذج يمكن استخدامها لتحويل نموذج أو تنبؤ غير موثوق به إلى نموذج أو تنبؤ موثوق به. في هذه الدراسة، نقترح تقنية شرح جديدة تسمى LIME (توضيح التدخلات المحلية)، والتي تشرح التنبؤات لأي تصنيف بطريقة قابلة للتفسير وصادقة، من خلال تعلم نموذج قابل للتفسير محليًا حول التنبؤ. كما نقترح طريقة لشرح النماذج بتقديم تنبؤات فردية تمثيلية وتوضيحاتها بطريقة غير متكررة، مع تعريف المهمة كمشكلة تحسين جزئي (submodular optimization). نظهر مرونة هذه الأساليب من خلال شرح أنماط مختلفة للنصوص (مثل الغابات العشوائية) والتصنيف الصوري (مثل الشبكات العصبية). كما نوضح فائدة التوضيحات من خلال تجارب جديدة، سواء محاكاة أو بمشاركة البشر، في سيناريوهات مختلفة تتطلب الثقة: تحديد ما إذا كان يجب الوثوق بالتنبؤ، اختيار بين النماذج، تحسين تصنيف غير موثوق به، وتحديد أسباب عدم ثقة الشخص بالتصنيف.