17日前

局所性を活用した多様体侵入防止:ローカルミックスアップ

Raphael Baena, Lucas Drumetz, Vincent Gripon
局所性を活用した多様体侵入防止:ローカルミックスアップ
要約

Mixupは、入力サンプルとその対応する出力を線形補間することで構成される、データ依存型の正則化手法であり、標準的な機械学習データセットにおける学習において、精度の向上が示されている。しかしながら、研究者らはMixupが分布外の仮想サンプルを生成し、拡張された訓練データセットに矛盾を引き起こす可能性があること、さらには敵対的影響をもたらすおそれがあると指摘している。本論文では、損失関数の計算において遠方の入力サンプルに低い重みを付与する「局所的Mixup(Local Mixup)」を提案する。制約付き設定において、局所的Mixupがバイアスと分散の間でトレードオフを生み出すことを示し、極端な場合にそれぞれ従来の訓練と古典的Mixupに還元されることを確認した。標準化されたコンピュータビジョンベンチマークを用いた実験により、局所的Mixupがテスト精度の向上を実現できることも示した。

局所性を活用した多様体侵入防止:ローカルミックスアップ | 最新論文 | HyperAI超神経