
비감독 도메인 적응(UDA)은 레이블이 풍부한 소스 도메인을 활용하여 관련된 레이블이 없는 타겟 도메인에서 작업을 해결하는 것을 목표로 한다. 특히 소스 도메인과 타겟 도메인 사이에 큰 도메인 갭이 존재할 경우 이는 매우 도전적인 문제이다. 본 논문에서는 기존 방법에 비해 두 가지 측면에서 개선을 이끌어내는 새로운 솔루션인 SSRT(Safe Self-Refinement for Transformer-based domain adaptation)를 제안한다. 첫째, 다양한 비전 작업에서 성공을 거둔 비전 트랜스포머의 성능을 참고하여, SSRT는 트랜스포머 백본을 채택하였다. 우리는 단순한 적대적 적응과 결합된 비전 트랜스포머가 도전적인 DomainNet 벤치마크에서 기존에 보고된 최고 성능의 컨볼루션 신경망(CNN) 기반 결과를 초월함을 발견하였으며, 이는 강력한 전이 가능한 특징 표현 능력을 보여준다. 둘째, 큰 도메인 갭을 가진 도메인 간 지식 전이의 효과를 높이고 모델 붕괴의 위험을 줄이기 위해, 안전한 자기 개선(Safe Self-Refinement) 전략을 제안한다. 구체적으로 SSRT는 변형된 타겟 도메인 데이터의 예측을 활용하여 모델을 개선한다. 비전 트랜스포머의 모델 용량이 크고, 이러한 도전적인 작업에서는 예측 결과가 노이즈가 많을 수 있으므로, 적응형 학습 설정 조정이 가능한 안전한 학습 메커니즘이 설계되었다. 여러 널리 사용되는 UDA 벤치마크에서 폭넓은 평가를 수행한 결과, SSRT는 일관되게 최고의 성능을 기록하였으며, Office-Home에서 85.43%, VisDA-2017에서 88.76%, DomainNet에서 45.2%의 정확도를 달성하였다.