要約
現代の深層学習システムが、あるサンプルが自身の知識範囲内にあるかどうかを判断する能力は、根本的かつ重要な要素である。本論文では、最近の最先端の分布外（Out-of-Distribution, OOD）検出手法である「極めて単純な活性化形状調整（Activation Shaping, ASH）」について、洞察と分析を提供する。我々は、活性化のプルーニング（pruning）がOOD検出性能に悪影響を及ぼす一方で、活性化のスケーリング（scaling）はその性能を向上させることを実証した。さらに、ID（分布内）精度を損なうことなく、最先端のOOD検出性能を達成するシンプルかつ効果的な後処理ネットワーク強化手法であるSCALEを提案する。訓練プロセスにスケーリングの概念を統合することで、サンプルのID特性をより正確に捉えることを可能にした、トレーニング時におけるOOD検出強化のための軽量手法である「中間テンソル形状調整（Intermediate Tensor Shaping, ISH）」も提案する。OpenOOD v1.5 ImageNet-1Kベンチマークにおいて、近傍OODデータセットでAUROCスコアを+1.85%、遠方OODデータセットで+0.74%向上させた。本研究のコードおよびモデルは、https://github.com/kai422/SCALE にて公開されている。