11日前

GEN:ソフトマックスに基づく分布外検出の限界を押し広げる

{Christopher Zach, Yaroslava Lochman, Xixi Liu}
GEN:ソフトマックスに基づく分布外検出の限界を押し広げる
要約

分布外(Out-of-distribution, OOD)検出は、特に安全が求められる応用分野におけるニューラルネットワークの実用化を成功させるために広く研究されてきた。また、大規模データセットにおけるOOD検出は現実的である反面、より高い課題を伴う。これまでの多数のアプローチは、スコア設計のために訓練データにアクセスするか、または訓練中に外れ値(outliers)をモデルにさらす必要があった。一部の後処理(post-hoc)手法はこれらの制約を回避できるが、性能面でそれほど競争力がない。本研究では、任意の事前学習済みのソフトマックスベース分類器に適用可能な、シンプルながら効果的なエントロピーに基づくスコア関数「Generalized ENtropy score(GEN)」を提案する。この手法の有効性は、大規模なImageNet-1k OOD検出ベンチマーク上で検証された。GENは、複数の最先端後処理手法と比較して、6種類の一般的に用いられるCNNベースおよび視覚変換器(visual transformer)ベースの分類器において、平均AUROCを一貫して向上させ、平均で少なくとも3.5%の向上を達成した。さらに、特徴量ベースの強化手法や訓練統計を利用する手法と組み合わせてGENを適用することで、さらにOOD検出性能を向上させることも示した。コードは以下のURLで公開されている:https://github.com/XixiLiu95/GEN。

GEN:ソフトマックスに基づく分布外検出の限界を押し広げる | 最新論文 | HyperAI超神経