要約
分布外（Out-of-Distribution, OoD）検出は、安全な人工知能システムの構築において重要な課題である。しかし、現在のOoD検出手法は、実用的な展開に求められる性能要件を満たせていないのが現状である。本論文では、新たな観察に基づく単純ながら有効なアルゴリズムを提案する。その観察とは、訓練済みのニューラルネットワークにおいて、ノルムが有界なOoDサンプルは特徴空間内に集中するという点である。このOoD特徴の中心を「特徴空間特異点（Feature Space Singularity, FSS）」と呼ぶ。また、サンプルの特徴ベクトルとFSSとの距離をFSSD（FSS Distance）と定義する。このFSSDに閾値を設定することで、OoDサンプルを識別可能となる。本研究では、この現象の背後にあるメカニズムを分析し、提案手法がなぜ有効であるかを解明した。実験結果から、本手法が複数のOoD検出ベンチマークにおいて最先端の性能を達成することが示された。さらに、FSSDはテストデータにわずかなノイズや劣化が加えられた場合にも高いロバスト性を示し、アンサンブルによりさらなる性能向上が可能である。これらから、FSSDは実世界への応用に向けた有望な手法であると結論づけられる。本研究の実装コードは、\url{https://github.com/megvii-research/FSSD_OoD_Detection}にて公開している。