16일 전

일반화된 소스 프리 도메인 적응

Shiqi Yang, Yaxing Wang, Joost van de Weijer, Luis Herranz, Shangling Jui
일반화된 소스 프리 도메인 적응
초록

도메인 적응(Domain Adaptation, DA)은 소스 도메인에서 학습된 지식을 레이블이 없는 타겟 도메인으로 전이하는 것을 목표로 한다. 최근 몇몇 연구들은 소스 데이터가 없이도 소스 전훈련 모델만을 이용해 타겟 도메인으로 적응하는 '소스 프리 도메인 적응(Source-free Domain Adaptation, SFDA)' 문제에 주목하고 있다. 그러나 기존의 이러한 방법들은 실제 응용 상황에서 매우 중요한 소스 도메인 성능 유지에 대한 고려가 부족하다는 한계를 지닌다. 본 논문에서는 적응 과정에서 소스 도메인 데이터에 접근할 수 없지만, 타겟 도메인과 소스 도메인 모두에서 우수한 성능을 발휘해야 하는 새로운 도메인 적응 프레임워크인 '일반화된 소스 프리 도메인 적응(Generalized Source-free Domain Adaptation, G-SFDA)'을 제안한다. 먼저, 타겟 특징을 그 의미적으로 유사한 이웃들과 함께 군집화하는 로컬 구조 군집화(Local Structure Clustering, LSC)를 제안한다. 이 방법은 소스 데이터 없이도 모델을 타겟 도메인에 효과적으로 적응시키는 데 성공한다. 두 번째로, 각 도메인에 특화된 이진 도메인 주의 메커니즘을 생성하여 도메인에 따라 다른 특징 채널을 활성화하는 희소 도메인 주의(Sparse Domain Attention, SDA)를 제안한다. 이 주의 메커니즘은 적응 과정 중에 그래디언트를 정규화함으로써 소스 정보를 유지하는 데 기여한다. 실험 결과, 타겟 도메인 성능 측면에서 기존의 DA 및 SFDA 방법들과 비교해 동등하거나 우수한 성능을 보였으며, 특히 VisDA 데이터셋에서 최고 성능(85.4%)을 기록했다. 또한 단일 또는 다중 타겟 도메인으로의 적응 후, 모든 도메인에서 안정적인 성능을 달성하는 것으로 확인되었다. 코드는 https://github.com/Albert0147/G-SFDA 에서 공개되어 있다.