16日前

分割して対比する:適応的対比学習を用いたソースフリー・ドメイン適応

Ziyi Zhang, Weikai Chen, Hui Cheng, Zhen Li, Siyuan Li, Liang Lin, Guanbin Li
分割して対比する:適応的対比学習を用いたソースフリー・ドメイン適応
要約

本研究では、ソースデータにアクセスできない状態で、事前に学習されたソースモデルをターゲットドメインに適応する実用的なドメイン適応タスク、すなわちソースフリー・ドメイン適応(Source-Free Domain Adaptation, SFUDA)に着目する。従来の手法は、主に自己教師付きの擬似ラベル付けを用いてクラスごとのグローバルなアライメントを実現する[1]、あるいは局所的な構造抽出により近傍間の特徴の一貫性を促進する[2]。これらは顕著な進展を遂げているが、それぞれに課題がある。すなわち、「グローバル」アプローチはノイズの多いラベルに敏感であり、「ローカル」アプローチはソースバイアスの影響を受けやすい。本論文では、これらの両者の長所を活かしつつ、その欠点を回避する新しいアプローチ、すなわち「分割して対比する(Divide and Contrast, DaC)」を提案する。DaCは、ソースモデルの予測信頼度に基づき、ターゲットデータを「ソースに類似したサンプル」と「ターゲット特有のサンプル」に分割する。その後、適応型対比学習フレームワークの下で、それぞれのサンプル群にカスタマイズされた目的関数を適用する。具体的には、「ソースに類似したサンプル」は、比較的クリーンなラベルを持つため、グローバルなクラスクラスタリングの学習に活用される。一方、「ターゲット特有のサンプル」はノイズが多いが、インスタンスレベルでの学習を通じて内在する局所構造を捉える。さらに、メモリバンクを用いた最大平均差分(Maximum Mean Discrepancy, MMD)損失を用いて、「ソースに類似したドメイン」と「ターゲット特有のサンプル」を統合的にアライメントすることで、ドメイン間の分布不一致を低減する。VisDA、Office-Home、およびより挑戦的なDomainNetを対象とした広範な実験により、DaCが現在の最先端手法を上回る優れた性能を発揮することが実証された。コードは以下のURLで公開されている:https://github.com/ZyeZhang/DaC.git。

分割して対比する:適応的対比学習を用いたソースフリー・ドメイン適応 | 最新論文 | HyperAI超神経