10日前
長尾視覚認識のためのバランス型メタソフトマックス
Jiawei Ren, Cunjun Yu, Shunan Sheng, Xiao Ma, Haiyu Zhao, Shuai Yi, Hongsheng Li

要約
深層分類器は視覚認識分野で大きな成功を収めてきた。しかし、現実世界のデータは本質的に長尾分布を示すため、学習時とテスト時の分布間に不一致が生じる。本論文では、多くの分類タスクで用いられるSoftmax関数が、長尾設定下ではバイアスのある勾配推定をもたらすことを示す。本研究では、学習時とテスト時のラベル分布のズレに対応できる、Softmaxの偏りのないエレガントな拡張であるBalanced Softmaxを提案する。理論的に、多クラスSoftmax回帰の一般化誤差限界を導出し、本研究で提案する損失関数がこの限界を最小化することを示す。さらに、最適なクラスサンプルレートを推定するために補完的なメタサンプラーを導入したBalanced Meta-Softmaxを提案し、長尾学習の性能をさらに向上させる。実験の結果、Balanced Meta-Softmaxが視覚認識およびインスタンスセグメンテーションの両タスクにおいて、最先端の長尾分類手法を上回ることを実証した。