10日前

シンプルなエピソード型線形プローブが、ワイルドな状況下における視覚認識を改善する

{Yi Yang, Xiaohan Wang, Linchao Zhu, Yuanzhi Liang}
シンプルなエピソード型線形プローブが、ワイルドな状況下における視覚認識を改善する
要約

視覚認識におけるネットワークの一般化性および特徴の区別能力の理解は、未解決の研究課題である。多くの研究が特徴表現の品質を評価するために行われてきた。その中でシンプルなアプローチとして、得られた特徴に基づいて線形プローブ分類器を用いてクラス分類精度を定量的に評価する方法が挙げられる。一般的な線形プローブは推論時に代理分類器としてのみ使用されるが、訓練過程において特徴が線形分類に適しているかどうかを測定する観点からの有効性はほとんど無視されてきた。本論文では、視覚表現の一般化性をオンラインで反映できる「エピソード的線形プローブ(Episodic Linear Probing, ELP)」分類器を提案する。ELPはネットワークから分離された特徴を用いて訓練され、エピソードごとに再初期化される。これにより、訓練中に視覚表現の区別能力を明示的に示すことができる。さらに、ELP分類器と主分類器の確率分布間の距離を反映する「ELP適合正則化項(ELP-Suitable Regularization, ELP-SR)」を導入する。ELP-SRは再スケーリング係数を用いて、訓練中の各サンプルを正則化し、損失関数を適応的に調整することで、特徴の区別性と一般化性を促進する。本手法は、細粒度視覚分類、長尾視覚認識、一般物体認識の3つの実世界の視覚認識タスクにおいて顕著な性能向上を達成した。これらの成果は、本手法がネットワークの一般化性および特徴の区別能力を効果的に向上させることを示している。

シンプルなエピソード型線形プローブが、ワイルドな状況下における視覚認識を改善する | 最新論文 | HyperAI超神経