베이스 트랜스포머: 원 샷 학습을 위한 베이스 데이터 포인트에 대한 어텐션

소수 샘플 분류(few-shot classification)는 각 카테고리당 제한된 샘플만을 사용하여 새로운 카테고리를 인식하는 것을 목표로 한다. 현재 대부분의 소수 샘플 방법은 기초(base) 데이터셋에서 레이블이 부여된 예시가 풍부한 환경을 활용하여 인코더를 학습시키며, 이 인코더는 새로운 클래스의 서포트 인스턴스에 대한 표현을 추출하는 데 사용된다. 그러나 테스트 인스턴스는 기초 분포와 다른 분포에서 나온 것으로, 그 특징 표현의 품질이 낮아져 성능이 저하된다. 본 논문에서는 메타테스트 시간 동안 각 서포트 인스턴스에 가장 가까운 기초 데이터셋의 잘 학습된 특징 표현을 활용하여 해당 인스턴스의 표현을 개선하는 방안을 제안한다. 이를 위해 우리는 기초 데이터셋의 특징 공간에서 가장 관련성이 높은 영역에 주목하여 서포트 인스턴스의 표현을 개선하는 BaseTransformers를 제안한다. 세 가지 벤치마크 데이터셋에서의 실험 결과, 제안한 방법은 다양한 백본(백본) 아키텍처에 대해 우수한 성능을 보이며, 유도형(one-shot) 설정에서 최신 기술 수준(state-of-the-art)의 성과를 달성하였다. 코드는 github.com/mayug/BaseTransformers에서 공개되어 있다.