HyperAIHyperAI

Command Palette

Search for a command to run...

SelfReg: ドメイン汎化のための自己監督対照正則化

Daehee Kim Seunghyun Park Jinkyu Kim Jaekoo Lee

概要

一般的に、深層学習の実験環境では、訓練データセットとテストデータセットが同じ分布からサンプリングされていると仮定されます。しかし、現実的な状況では、2つのデータセット間の分布の違い(ドメインシフト)が発生することがあり、これがモデルの汎化性能を阻害する主要な要因となります。この問題を解決する研究分野はドメイン汎化と呼ばれ、明示的または暗黙的にドメイン不変特徴量を抽出することでドメインシフト問題を緩和します。最近の研究では、コントラスティブ学習に基づくドメイン汎化手法が提案され、高い性能を達成しています。これらの手法はネガティブデータペアのサンプリングを必要としますが、コントラスティブ学習の性能は根本的にネガティブデータペアの品質と数量に依存します。本稿では、この課題に対処するために、コントラスティブ学習に基づく新しい正則化手法である自己監督型コントラスティブ正則化(SelfReg)を提案します。提案手法はポジティブデータペアのみを使用するため、ネガティブペアサンプリングによって引き起こされる様々な問題を解決できます。さらに、クラス固有のドメイン摂動層(Class-Specific Domain Perturbation Layer, CDPL)も提案し、ポジティブデータペアのみを使用する場合でもmixup拡張を効果的に適用することが可能になります。実験結果は、SelfRegに組み込まれた技術が互いに相乗効果を持ちながら性能向上に寄与したことを示しています。最近のベンチマークであるDomainBedにおいても、提案手法は従来の最先端手法と同等の性能を示しました。コードは https://github.com/dnap512/SelfReg で公開されています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
SelfReg: ドメイン汎化のための自己監督対照正則化 | 記事 | HyperAI超神経