17日前

C-SFDA:効率的なソースフリー領域適応のためのカリキュラム学習支援型自己学習フレームワーク

Nazmul Karim, Niluthpol Chowdhury Mithun, Abhinav Rajvanshi, Han-pang Chiu, Supun Samarasekera, Nazanin Rahnavard
C-SFDA:効率的なソースフリー領域適応のためのカリキュラム学習支援型自己学習フレームワーク
要約

教師ありドメイン適応(UDA)手法は、ラベル付きのソースドメインで学習したモデルをラベルなしのターゲットドメインに適応することを目的としている。UDA手法は、適応過程においてソースデータにアクセス可能であるという強い仮定を置いているが、プライバシー上の懸念やデバイスのリソース制約のため、多くの現実世界のシナリオではこの仮定が成立しない。このような状況において、ソースデータを適応段階で必要としない「ソースフリー・ドメイン適応(SFDA)」が優れた代替手段として注目されている。近年のSFDAにおける最先端(SOTA)手法は、主に疑似ラベルの精 refinement を基盤とする自己学習(self-training)に注力しているが、一般的に以下の2つの課題を抱えている:i)避けがたいノイズを含む疑似ラベルの発生により、学習初期段階でモデルが誤ったパターンを記憶してしまう(early training time memorization)現象が生じる;ii)精 refinement プロセスにおいてメモリバンクを維持する必要があるため、リソース制約環境において大きな負荷となる。これらの課題に対処するため、本研究では、選択的疑似ラベル化に基づき、ドメイン間の変化に効率的かつ信頼性高く適応できる、カリキュラム学習を支援する自己学習フレームワーク「C-SFDA」を提案する。具体的には、信頼性に基づいて選別された限定的な疑似ラベルから学習を促進するカリキュラム学習戦略を採用することで、適応の各段階においてラベルノイズの拡散を効果的に防止するとともに、高コストなメモリバンクを用いたラベル精 refinement の必要性を排除する。画像認識およびセマンティックセグメンテーションの両タスクにおける広範な実験評価により、本手法の有効性が確認された。C-SFDAはオンラインのテスト時ドメイン適応(test-time domain adaptation)にも容易に適用可能であり、このタスクにおいて従来のSOTA手法を上回る性能を発揮した。