HyperAIHyperAI

Command Palette

Search for a command to run...

クロスドメイン・アンサンブル・ディスティレーションによるドメイン一般化

Kyungmoon Lee Sungyeon Kim Suha Kwak

概要

ドメイン一般化は、未見のターゲットドメインに一般化するモデルを学習するという課題です。本稿では、単純でありながら効果的なドメイン一般化手法であるクロスドメインアンサンブルディスティレーション(XDED)を提案します。この手法は、ドメイン不変の特徴を学習しながら、モデルが平坦な最小値に収束することを促進します。最近の研究で、平坦な最小値への収束がドメイン一般化の十分条件であることが示されています。具体的には、本手法は同じラベルを持つ訓練データから異なるドメインの出力ロジットのアンサンブルを生成し、各出力とアンサンブルとの不一致に対するペナルティを与えます。また、スタイルの一貫性を保つために特徴量を標準化するデスタイル化技術も提示します。これにより、任意のターゲットドメインにおいてもスタイルの一貫した予測を生成することが可能となります。本手法は、クロスドメイン画像分類、クロスデータセット人物再識別(person re-ID)、およびクロスデータセット意味分割などの公開ベンチマークで大幅に一般化能力を向上させました。さらに、我々の手法によって学習されたモデルは、敵対的攻撃や画像破損に対して堅牢であることを示しています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています