要約
分布外（Out-of-Distribution, OOD）の例が提示された場合、深層ニューラルネットワークは自信を持って誤った予測を示すことが多く、その検出は困難であり、潜在的なリスクも高い。本論文では、活性化パターンと予測クラスとの不整合性を検出することで、OOD例を識別する手法を提案する。我々は、活性化パターンをグラム行列（Gram matrix）によって表現し、その行列値の異常を検出することで、高いOOD検出率を達成できることを発見した。この異常検出は、各値を訓練データで観測されたその範囲と単純に比較するという方法で実現可能である。多くの既存手法とは異なり、本手法は任意の事前学習済みのソフトマックス分類器と組み合わせて使用でき、OODデータを用いたハイパーパラメータの微調整や、パラメータ推定のためのOODデータのアクセスを必要としない。この手法は、さまざまなネットワークアーキテクチャおよび視覚データセットに適用可能であり、分布から大きく離れたOOD例を検出するという、重要な一方で意外に困難なタスクにおいて、従来の最先端のOOD検出手法（OODデータのアクセスを仮定する手法を含む）と比較して、一般的に同等以上または優れた性能を発揮する。