Command Palette
Search for a command to run...
ドメイン一般化のための改善されたテスト時の適応
ドメイン一般化のための改善されたテスト時の適応
Chen Liang ; Zhang Yong ; Song Yibing ; Shan Ying ; Liu Lingqiao
概要
ドメイン一般化(Domain Generalization: DG)における主な課題は、訓練データとテストデータの間に存在する分布シフト問題を扱うことです。最近の研究では、テスト時に学習モデルをテストデータで適応させるテストタイムトレーニング(Test-Time Training: TTT)が、この問題に対する有望な解決策である可能性があると示唆されています。一般的に、TTT戦略の性能は以下の2つの主要な要因に依存しています:更新のために適切な補助的なTTTタスクを選択すること、およびテストフェーズ中に信頼性のあるパラメータを特定して更新することです。過去の研究と私たちの実験結果は、これらの2つの要因が適切に考慮されない場合、TTTが学習モデルの性能を向上させないばかりか悪化させる可能性があることを示しています。本研究では、これらの2つの要因に対処するために、改良されたテストタイム適応(Improved Test-Time Adaptation: ITTA)手法を提案します。まず、補助的な目的関数を直感的に定義する代わりに、TTTタスク用の学習可能な一貫性損失を提案します。この損失には学習可能なパラメータが含まれており、TTTタスクと主予測タスクとの間の一貫性をよりよく調整するために調整することができます。次に、訓練済みモデルに対して追加の適応パラメータを導入し、テストフェーズ中にはこれらの適応パラメータのみを更新することをお勧めします。広範な実験を通じて、提案した2つの戦略が学習モデルにとって有益であり(図1参照)、ITTAはいくつかのDGベンチマークにおいて現行の最先端手法よりも優れた性能を達成できることを示しました。コードは https://github.com/liangchen527/ITTA で利用可能です。