초록
우리는 여러 소스 도메인에서 모델을 학습하여 미리 보지 못한 타겟 도메인으로도 잘 일반화되도록 하는 것을 목표로 한다. 이러한 도메인 일반화 시나리오에서의 주요 과제는 학습 중에 타겟 도메인 데이터를 사용할 수 없기 때문에, 학습된 모델이 미리 보지 못한 타겟 도메인에 명시적으로 적응되지 않는다는 점이다. 본 연구에서는 단일 테스트 샘플을 기반으로 도메인 간 일반화 능력을 학습하는 방법을 제안한다. 우리는 메타학습 기반의 접근 방식을 활용하여, 학습 단계에서 단일 샘플을 이용한 적응 능력을 모델이 습득하도록 학습시킴으로써, 테스트 단계에서 각각의 단일 테스트 샘플에 대해 스스로 적응할 수 있도록 한다. 각 테스트 샘플에 대한 적응 과정은 모델 파라미터 생성 과정에 테스트 샘플을 조건부 정보로 포함하는 변분 베이지안 추론 문제로 정식화한다. 이 방식은 테스트 시에 추가적인 미세 조정(fine-tuning)이나 미리 보지 못한 도메인의 추가 데이터에 대한 자기지도 학습(self-supervised training) 없이, 단일 순전파 계산만으로 각 테스트 샘플에 대한 적응이 가능하다. 광범위한 아블레이션 실험을 통해, 본 모델이 학습 과정에서 도메인 변화를 모방함으로써 각 단일 샘플에 대한 모델 적응 능력을 학습함을 확인하였다. 또한, 다양한 도메인 일반화 벤치마크에서 기존 최첨단 방법들과 비교해 적어도 동등하거나 더 뛰어난 성능을 달성함을 입증하였다.