Few-Shot Learning as Domain Adaptation: Algorithm and Analysis

보이지 않는 클래스를 매우 적은 샘플로 인식하기 위해, 소수 샘플 학습(FSL)은 이미 학습된 보인 클래스로부터의 사전 지식을 활용한다. FSL의 주요 과제는 보인 클래스와 보이지 않는 클래스 간의 분포가 다르다는 점으로, 이로 인해 보인 클래스에서 메타학습을 수행한 모델이라도 일반화 성능이 저하되는 것이다. 이러한 클래스 간 차이로 인한 분포 이동은 도메인 이동(domain shift)의 특수한 사례로 간주할 수 있다. 본 논문에서는 처음으로 메타학습 프레임워크 내에서 이러한 도메인 이동 문제를 명시적으로 다룰 수 있는 주의 메커니즘을 갖춘 도메인 적응 프로토타입 네트워크(DAPNA)를 제안한다. 구체적으로, 세트 변환기 기반의 주의 모듈을 활용하여 각 에피소드를 보인 클래스 간 중복이 없는 두 개의 하위 에피소드로 구성함으로써, 보인 클래스와 보이지 않는 클래스 사이의 도메인 이동을 모사한다. 한정된 학습 샘플을 바탕으로 두 하위 에피소드의 특징 분포를 정렬하기 위해 특징 전이 네트워크와 마진 차이 불일치(MDD) 손실 함수를 함께 사용한다. 특히, DAPNA의 학습 한계에 대한 이론적 분석을 제시하여 그 성능의 이론적 근거를 마련한다. 광범위한 실험 결과는 DAPNA가 최신 기술 대비 뚜렷한 성능 우위를 보임을 보여주며, 종종 상당한 성능 향상을 기록한다.