النسبة البديهية للشبكات العميقة

ندرس مشكلة نسب التنبؤات التي ينتجها شبكة عميقة إلى خصائص المدخلات، وهي المشكلة التي تم دراستها سابقًا من قبل العديد من الأعمال الأخرى. نحدد مبدأين أساسيين يجب أن تفي بهما طرق النسبة وهما: الحساسية (Sensitivity) والثبات أمام تنفيذ الخوارزميات (Implementation Invariance). نبين أن معظم الطرق المعروفة للنسب لا تحقق هذين المبدأين، ونعتبر ذلك ضعفًا أساسيًا في هذه الطرق. نستخدم المبادئ لدليل تصميم طريقة جديدة للنسب تُسمى التدرجات المتكاملة (Integrated Gradients). طريقتنا لا تتطلب أي تعديل على الشبكة الأصلية وهي سهلة التنفيذ للغاية؛ فهي تحتاج فقط إلى بعض الدعوات للمشغل التدرجي القياسي. نطبق هذه الطريقة على بعض نماذج الصور وبعض نماذج النصوص ونموذج كيميائي، مما يظهر قدرتها على تصحيح أخطاء الشبكات واستخراج القواعد منها وتوفير أفضل تفاعل للمستخدمين مع النماذج.