프로토타입 기반 다영역 자기지도 학습을 통한 소량 비지도 도메인 적응

비지도 도메인 적응(UDA)은 완전히 레이블이 붙은 소스 도메인에서 레이블이 없는 타겟 도메인으로 예측 모델을 전이하는 기법이다. 그러나 일부 응용 분야에서는 소스 도메인에서도 레이블을 수집하는 데 비용이 매우 크기 때문에, 기존 대부분의 연구들은 실용적이지 못하다. 이 문제를 해결하기 위해 최근 연구들은 인스턴스 수준의 교차 도메인 자기지도 학습을 수행한 후 추가적인 미세조정 단계를 거치는 방식을 사용했다. 그러나 인스턴스 수준의 자기지도 학습은 저수준의 구분 가능한 특징만 학습하고 정렬할 뿐이다. 본 논문에서는 소수 샘플 비지도 도메인 적응(FUDA)을 위한 엔드투엔드 프로토타입 교차 도메인 자기지도 학습(PCS) 프레임워크를 제안한다. PCS는 교차 도메인 저수준 특징 정렬을 수행할 뿐 아니라, 도메인 간 공유 임베딩 공간에서 의미 구조를 인코딩하고 정렬하는 기능도 갖추고 있다. 본 프레임워크는 도메인 내 프로토타입 대조 학습을 통해 데이터의 카테고리별 의미 구조를 포착하고, 교차 도메인 프로토타입 자기지도 학습을 통해 특징 정렬을 수행한다. 최신 기술 대비 PCS는 Office, Office-Home, VisDA-2017, DomainNet 각각에 대해 FUDA에서 평균 분류 정확도를 10.5%, 3.5%, 9.0%, 13.2% 향상시켰다. 본 연구의 프로젝트 페이지는 http://xyue.io/pcs-fuda/index.html 에서 확인할 수 있다.