ندرس مشكلة تفسير تنبؤ الشبكة العميقة من حيث مساهمة ميزاتها المدخلة، وهي مشكلة سبق أن تم دراستها من قبل عدد من الدراسات الأخرى. ونحدد اثنين من المبادئ الأساسية—الحساسية والثبات في التنفيذ—اللذين ينبغي أن تحققهما طرق التفسير. ونُظهر أن معظم الطرق المعروفة لتفسير التنبؤات لا تحقق هاتين المبادئ، ونعتبر ذلك عيبًا جوهريًا في هذه الطرق. ونستخدم هذه المبادئ لتوجيه تصميم طريقة تفسير جديدة تُسمى "الانحدار المتكامل" (Integrated Gradients). تعتمد هذه الطريقة على الشبكة الأصلية دون الحاجة إلى أي تعديل عليها، وهي بسيطة للغاية في التنفيذ، وتتطلب فقط عددًا قليلاً من الاستدعاءات لمشغل الاتجاه القياسي (الانحدار القياسي). ونطبق هذه الطريقة على عدد من نماذج الصور، وعدد من نماذج النصوص، ونموذج كيميائي، مما يُظهر قدرتها على تشخيص الأخطاء في الشبكات، واستخلاص القواعد من الشبكة، وتمكين المستخدمين من التفاعل مع النماذج بشكل أفضل.