Score-CAM: スコア重み付けされた畳み込みニューラルネットワークの可視化説明

最近、畳み込みニューラルネットワークの内部メカニズムと、ネットワークが特定の決定を行う理由に注目が集まっています。本論文では、クラス活性化マッピングに基づく新しい事後可視説明手法であるScore-CAMを開発しました。従来のクラス活性化マッピングに基づく手法とは異なり、Score-CAMはターゲットクラスに対する前方通過スコアを用いて各活性化マップの重みを取得することで、勾配への依存を排除しています。最終的な結果は、重みと活性化マップの線形結合によって得られます。私たちは、Score-CAMが意思決定プロセスの解釈においてより優れた視覚的性能と公平性を達成することを示しています。当手法は認識タスクと位置特定タスクの両方で従来の方法を上回り、健全性チェックも通過しています。また、デバッグツールとしての応用可能性も指摘しています。公式コードが公開されています。