집합에서 집합으로의 함수를 사용한 임베딩 적응을 통한 Few-Shot 학습

제한된 데이터로 학습하는 것은 시각 인식에서 중요한 과제입니다. 많은 소량 샘플 학습(few-shot learning) 방법들은 이 �제를 해결하기 위해 관찰된 클래스들로부터 인스턴스 임베딩 함수를 학습하고, 이를 제한된 라벨을 가진 미관찰 클래스들의 인스턴스에 적용합니다. 이러한 전이 학습 방식은 작업에 독립적(task-agnostic)입니다: 임베딩 함수는 미관찰 클래스들 간의 차별성을 최적으로 학습하지 않으며, 이 차별성이 목표 작업으로 이어집니다. 본 논문에서는 세트-세트(set-to-set) 함수를 사용하여 인스턴스 임베딩을 목표 분류 작업에 적응시키는 새로운 접근법을 제안합니다. 이 방법은 작업 특화(task-specific) 임베딩을 생성하며, 각 클래스 간의 차별성을 갖춥니다. 우리는 다양한 세트-세트 함수의 구현을 경험적으로 조사하였고, 트랜스포머(Transformer)가 가장 효과적임을 확인하였습니다 -- 트랜스포머는 우리가 원하는 모델의 주요 특성을 자연스럽게 만족시킵니다. 우리는 이 모델을 FEAT (소량 샘플 임베딩 적응 with Transformer)라고 명명하고, 표준 소량 샘플 분류 벤치마크와 네 가지 확장된 소량 샘플 학습 환경(필수적인 사용 사례 포함, 즉 도메인 간(cross-domain), 추론(transductive), 일반화된 소량 샘플 학습(generalized few-shot learning), 저량 샘플 학습(low-shot learning))에서 검증하였습니다. FEAT는 기존 모델 및 이전 방법보다 일관성 있는 개선을 보였으며, 두 개의 벤치마크에서 새로운 최고 수준의 결과를 달성하였습니다.