要約
分布外（Out-of-Distribution, OOD）データの検出は、機械学習モデルを現実世界に安全に展開する上で重要な要素となっている。従来のOOD検出手法は、主に出力空間または特徴空間からOODスコアを導出するが、勾配空間からの情報にはほとんど注目してこなかった。本論文では、勾配空間から抽出された情報を活用することで、OOD入力を検出するシンプルかつ効果的な手法であるGradNormを提案する。GradNormは、ソフトマックス出力と一様確率分布との間のKLダイバージェンスから逆伝播される勾配のベクトルノルムを直接用いる。本研究の核心的なアイデアは、分布内（In-Distribution, ID）データに対して勾配の大きさが分布外データよりも大きくなるという点にあり、この性質がOOD検出に有効であることを示している。実験の結果、従来の最良手法と比較して、平均FPR95を最大16.33%まで低減するなど、優れた性能を発揮した。