Command Palette
Search for a command to run...
SelfReg: ドメイン汎化のための自己監督対照正則化
SelfReg: ドメイン汎化のための自己監督対照正則化
Daehee Kim Seunghyun Park Jinkyu Kim Jaekoo Lee
概要
一般的に、深層学習の実験環境では、訓練データセットとテストデータセットが同じ分布からサンプリングされていると仮定されます。しかし、現実的な状況では、2つのデータセット間の分布の違い(ドメインシフト)が発生することがあり、これがモデルの汎化性能を阻害する主要な要因となります。この問題を解決する研究分野はドメイン汎化と呼ばれ、明示的または暗黙的にドメイン不変特徴量を抽出することでドメインシフト問題を緩和します。最近の研究では、コントラスティブ学習に基づくドメイン汎化手法が提案され、高い性能を達成しています。これらの手法はネガティブデータペアのサンプリングを必要としますが、コントラスティブ学習の性能は根本的にネガティブデータペアの品質と数量に依存します。本稿では、この課題に対処するために、コントラスティブ学習に基づく新しい正則化手法である自己監督型コントラスティブ正則化(SelfReg)を提案します。提案手法はポジティブデータペアのみを使用するため、ネガティブペアサンプリングによって引き起こされる様々な問題を解決できます。さらに、クラス固有のドメイン摂動層(Class-Specific Domain Perturbation Layer, CDPL)も提案し、ポジティブデータペアのみを使用する場合でもmixup拡張を効果的に適用することが可能になります。実験結果は、SelfRegに組み込まれた技術が互いに相乗効果を持ちながら性能向上に寄与したことを示しています。最近のベンチマークであるDomainBedにおいても、提案手法は従来の最先端手法と同等の性能を示しました。コードは https://github.com/dnap512/SelfReg で公開されています。