要約
本稿では、HalpernおよびPearlによる因果理論[12]に基づく畳み込みニューラルネットワーク（CNN）に対する説明技術を提案する。本手法は、因果説明CNN（CexCNN）と呼ばれ、CNNの決定に対するフィルタの重要度を、反事実的推論（counterfactual reasoning）を用いて測定することに基礎を置いている。さらに、因果関係の拡張概念である「責任（responsibility）」および「非難（blame）」を用いて、これらのフィルタの重要度を重み付けし、入力画像上におけるその貢献を可視化する。CNNは階層的構造を持つこと、また因果モデルも階層的に抽象化可能であるという点に着目し、本研究の最も重要な貢献である、CNNの決定に最も寄与した入力画像内の重要な特徴を局所化することを実現した。本手法は特徴の局所化能力に加え、重要度の低いフィルタを削除するためのモデル圧縮（pruning）にも有効であることを示す。CexCNNは複数のCNNアーキテクチャおよびデータセットに対して評価された（コードはhttps://github.com/HichemDebbi/CexCNNにて公開）。