초록
비지도 메타학습은 레이블이 없는 데이터로부터 구성된 작업 분포 간에 일반화 가능한 지식을 학습하는 것을 목표로 한다. 여기서 주요 과제는 레이블 정보 없이 다양한 작업을 어떻게 구성할 수 있는가이다. 최근 연구들은 사전 학습된 표현을 통한 가상 레이블링이나 생성 모델을 활용한 합성 샘플 생성 등의 방법을 제안해 왔다. 그러나 이러한 작업 구성 전략은 메타학습 과정에서 고정된 가상 레이블에 크게 의존하고, 표현의 품질이나 생성 샘플의 질에 따라 한계를 갖는다. 이러한 한계를 극복하기 위해, 우리는 소수 샘플 분류를 위한 간단하면서도 효과적인 비지도 메타학습 프레임워크인 '가상 감독 대비(Pseudo-supervised Contrast, PsCo)'를 제안한다. 이는 최근의 자기지도 학습 문헌에서 영감을 얻었다. PsCo는 모멘텀 네트워크와 이전 배치들의 큐를 활용하여, 점진적으로 가상 레이블링을 개선하고 다양한 작업을 구성한다. 광범위한 실험을 통해 PsCo가 다양한 내부 도메인 및 크로스 도메인 소수 샘플 분류 벤치마크에서 기존의 비지도 메타학습 방법들을 모두 능가함을 입증하였다. 또한 PsCo가 대규모 벤치마크에 쉽게 확장 가능함을 확인하였으며, 최근의 최선의 기존 메타 기법들은 이러한 확장성에 한계를 가짐을 보였다.