17日前

EXACT:正確性を高めるためのトレーニング方法

Ivan Karpukhin, Stanislav Dereka, Sergey Kolesnikov
EXACT:正確性を高めるためのトレーニング方法
要約

分類タスクは通常、正解率(accuracy)を評価指標として用いる。しかし、正解率は不連続な関数であり、勾配上昇法を直接用いて最適化することはできない。現在広く用いられている手法は、交差エントロピー、ヒンジ損失、あるいは他の代替損失関数を最小化することによって対処しているが、これにより最適でない結果が生じる場合がある。本論文では、モデルの出力に確率的要素(stochasticity)を導入し、期待正解率(すなわち確率的モデルの正解率)を最適化する新しい最適化フレームワークを提案する。線形モデルおよびディープラーニングを用いた画像分類に対する広範な実験の結果、本手法が広く用いられている分類損失関数に対する強力な代替手段であることが示された。

EXACT:正確性を高めるためのトレーニング方法 | 最新論文 | HyperAI超神経