深層ネットワークの予測をその入力特徴に帰属付けるという問題について研究する。この問題は、これまでに複数の研究によって検討されてきた。我々は、帰属付け手法が満たすべき2つの根本的な公理—「感度（Sensitivity）」と「実装不変性（Implementation Invariance）」—を同定する。これらの公理が、既存の多くの帰属付け手法では満たされていないことを示し、これによりこれらの手法に根本的な欠陥があると考える。これらの公理を基に、新たな帰属付け手法「統合勾配（Integrated Gradients）」の設計を進めることにした。本手法は元のネットワークに何ら改変を加える必要がなく、実装が極めて簡単である。標準的な勾配演算子を数回呼び出すだけで実現可能である。この手法を複数の画像モデル、複数のテキストモデル、および化学モデルに適用し、ネットワークのデバッグ、ネットワークから規則の抽出、ユーザーによるモデルとのより効果的な相互作用の実現といった能力を実証した。