8일 전

비지도 도메인 적응을 위한 점진적 소스 도메인 확장

Thomas Westfechtel, Hao-Wei Yeh, Dexuan Zhang, Tatsuya Harada
비지도 도메인 적응을 위한 점진적 소스 도메인 확장
초록

비지도 도메인 적응(UDA)은 소스 도메인에서 레이블이 풍부한 데이터셋을 활용하여, 레이블이 전혀 없는 타겟 도메인으로 지식을 전이함으로써 대규모 레이블 데이터셋의 필요성을 줄이려는 접근법이다. 타겟 도메인에는 레이블이 없기 때문에 초기 단계에서의 도메인 불일치가 후속 단계로 전파되어 오류가 누적될 수 있다. 이 문제를 해결하기 위해 우리는 점진적 소스 도메인 확장(Gradual Source Domain Expansion, GSDE) 알고리즘을 제안한다. GSDE는 UDA 작업을 여러 차례 새로 시작하여 학습을 수행하며, 각 시행마다 네트워크 가중치를 재초기화하지만, 매번 타겟 데이터를 소스 데이터셋에 점진적으로 추가한다. 구체적으로, 이전 시행에서 가장 높은 점수를 받은 타겟 데이터를 의사 소스 샘플로 활용하며, 각각의 의사 레이블을 부여한다. 이 전략을 통해 이전 시행에서 추출한 지식이 새로운 학습의 시작 단계부터 직접 유도되므로, 특히 초기 학습 에포크에서 두 도메인 간의 정렬을 더 효과적으로 개선할 수 있다. 본 연구에서는 먼저 강력한 베이스라인 네트워크를 제안하고, 이를 바탕으로 GSDE 전략을 적용한다. Office-31, OfficeHome, DomainNet 세 가지 벤치마크에서 실험 및 아블레이션 연구를 수행한 결과, 기존 최고 성능 기법들을 초월하는 성능을 달성하였다. 또한 제안된 GSDE 전략이 다양한 최신 UDA 접근법의 정확도를 향상시킬 수 있음을 추가로 입증하였다.

비지도 도메인 적응을 위한 점진적 소스 도메인 확장 | 최신 연구 논문 | HyperAI초신경