要約
ミッションクリティカルな分野、特に自動運転や医療分野において、分布外（Out-of-Distribution, OOD）データに対する予測の失敗は重大な問題を引き起こす可能性があるため、入力サンプルの不確実性を定量化することは極めて重要である。OOD検出問題の本質は、モデルが自身が認識していないものを表現できないことに起因する。再訓練を必要とせず、モデル性能の低下や学習コストの増加を回避できる点から、事後的（post-hoc）OOD検出アプローチが広く研究されている。本研究では、モデルの深層部におけるニューロンが高次特徴を表現するという視点から、分布内データと分布外データにおけるモデル出力の違いを分析する新たなアプローチを提案する。これに基づき、事後的OOD検出のための新規手法「Leveraging Important Neurons（LINe）」を提唱する。Shapley値に基づくニューロン削除により、特定のクラスの入力データを予測する際に貢献度の高いニューロンのみを選択し、残りのニューロンをマスクすることで、ノイズの影響を低減する。また、活性化クリッピングにより、ある閾値を超えるすべての値を同一の値に固定することで、LINeは各クラス特徴を均等に扱い、分布内データと分布外データの間の活性化特徴数の差異にのみ着目できるようにする。広範な実験により、CIFAR-10、CIFAR-100、ImageNetの各データセットにおいて、従来の最先端事後OOD検出手法を上回る性能を確認し、本手法の有効性を実証した。