Command Palette
Search for a command to run...
クロスドメイン・アンサンブル・ディスティレーションによるドメイン一般化
クロスドメイン・アンサンブル・ディスティレーションによるドメイン一般化
Kyungmoon Lee Sungyeon Kim Suha Kwak
概要
ドメイン一般化は、未見のターゲットドメインに一般化するモデルを学習するという課題です。本稿では、単純でありながら効果的なドメイン一般化手法であるクロスドメインアンサンブルディスティレーション(XDED)を提案します。この手法は、ドメイン不変の特徴を学習しながら、モデルが平坦な最小値に収束することを促進します。最近の研究で、平坦な最小値への収束がドメイン一般化の十分条件であることが示されています。具体的には、本手法は同じラベルを持つ訓練データから異なるドメインの出力ロジットのアンサンブルを生成し、各出力とアンサンブルとの不一致に対するペナルティを与えます。また、スタイルの一貫性を保つために特徴量を標準化するデスタイル化技術も提示します。これにより、任意のターゲットドメインにおいてもスタイルの一貫した予測を生成することが可能となります。本手法は、クロスドメイン画像分類、クロスデータセット人物再識別(person re-ID)、およびクロスデータセット意味分割などの公開ベンチマークで大幅に一般化能力を向上させました。さらに、我々の手法によって学習されたモデルは、敵対的攻撃や画像破損に対して堅牢であることを示しています。