深層畳み込みネットワークの内部：画像分類モデルとサリエンシーマップの可視化

本論文では、深層畳み込みニューラルネットワーク（ConvNets）を用いて学習された画像分類モデルの可視化について述べています。我々は、クラススコアに対する入力画像の勾配を計算する2つの可視化手法を取り上げます。最初の手法は、クラススコアを最大化する画像を生成し、ConvNetが捉えたクラスの概念を可視化します [Erhan et al., 2009]。2つ目の手法は、特定の画像とクラスに特異的なクラスサリエンシーマップを計算します。我々は、このようなマップが分類用ConvNetを使用した弱い教師ありオブジェクトセグメンテーションに利用できることを示しています。最後に、勾配に基づくConvNetの可視化手法と逆畳み込みネットワーク [Zeiler et al., 2013] の関連性を確立しています。