要約
相互情報量は観測値の潜在表現を学習する際に広く用いられているが、分類用ニューラルネットワークにおけるその意味づけについてはまだ十分に説明されていない。本研究では、データが平衡しているという仮定の下で、ソフトマックス交差エントロピーを用いた分類ニューラルネットワークのパラメータ最適化が、入力とラベル間の相互情報量を最大化することと等価であることを示す。合成データおよび実データを用いた実験により、ソフトマックス交差エントロピーが相互情報量を近似的に推定できることを確認した。画像分類への応用において、この関係性を活用することで、ネットワーク構造を変更することなく、入力画像とラベル間のポイントワイズ相互情報量を近似することが可能となる。この目的のために、情報差に基づいて特定のラベルに関連する入力画像の領域を強調する「infoCAM（情報的クラス活性化マップ）」を提案する。この活性化マップにより、入力画像内のターゲットオブジェクトの局所化が可能となる。2つの実世界データセットを用いた半教師付きオブジェクト局所化タスクにおける実験を通じて、情報理論的アプローチの有効性を評価した。