2ヶ月前
ランダム勾配閾値処理を用いた迅速なサリエンシーガイドミックスアップ
Luu, Minh-Long ; Huang, Zeyi ; Xing, Eric P. ; Lee, Yong Jae ; Wang, Haohan

要約
ミックスアップ訓練手法は、深層ニューラルネットワークの汎化能力向上に効果的であることが証明されています。近年、研究コミュニティはミックスアップ手法を2つの方向性に拡張しており、注目度の高い領域ではサリエンシー誘導手続きの改善に尽力していますが、任意のパスへの関心は低く、ランダム化の領域は十分に探求されていませんでした。本論文では、それぞれの方向性が持つ優れた特性に着想を得て、2つの経路の交差点にある新しい手法を提案します。ランダム性とサリエンシー利用の最良要素を組み合わせることで、当手法は速度、簡易性、精度をバランスよく実現します。この手法を「ランダム ミックスアップ」(R-Mix)と命名しました。その有効性については、汎化能力、弱教師付きオブジェクト位置特定、キャリブレーション、ならびに敵対的攻撃に対する堅牢性において示しています。最後に、「より良い意思決定プロトコルが存在するか否か」という問いに対処するために、分類器の性能に基づいてミックスアップポリシーを決定する強化学習エージェントを訓練しました。これにより人間が設計した目的関数やハイパーパラメータ調整への依存が軽減されます。広範な実験結果からも明らかですが、エージェントは最先端レベルでの性能を発揮できることを示しており、完全自動的なミックスアップの基盤となるものとなっています。当研究におけるコードは [https://github.com/minhlong94/Random-Mixup] で公開されています。