2ヶ月前
ドメイン固有の正規化を最適化するための学習:ドメイン一般化への応用
Seonguk Seo; Yumin Suh; Dongwan Kim; Geeho Kim; Jongwoo Han; Bohyung Han

要約
私たちは、個々のドメインに特化した最適化された正規化層を組み込むことで、単純ながら効果的な多源流ドメイン汎化技術を提案します。この手法は、各ドメインごとに異なるアフィンパラメータを学習しながら、複数の正規化方法を使用します。各ドメインにおいて、活性化は複数の正規化統計量の加重平均によって正規化されます。必要に応じて、各正規化タイプごとに正規化統計量が別々に追跡されます。特に、私たちの実装ではバッチ正規化とインスタンス正規化を使用し、これらの2つの正規化方法の最良の組み合わせを各ドメインで特定しています。最適化された正規化層は、学習モデルの汎化能力を向上させるために効果的です。私たちは標準的なドメイン汎化ベンチマークにおいてアルゴリズムの最先端の精度を示すとともに、ラベルノイズが存在する場合や多源流ドメイン適応などのさらなるタスクにおける有効性も確認しています。