
소수 샘플 학습(few-shot learning)에서 기계 학습 시스템은 특정 작업과 관련된 적은 수의 라벨이 부착된 예제로부터 학습하여, 동일한 작업의 새로운 예제에 일반화할 수 있도록 됩니다. 이러한 작업에서 라벨이 부착된 예제의 수가 제한적이므로 가능한 모든 정보를 활용하고자 합니다. 일반적으로 모델은 작은 훈련 세트(서포트 세트)에서 작업 특유의 정보를 학습하여 라벨이 없는 검증 세트(타겟 세트)에 대한 예측을 수행합니다. 타겟 세트는 기존 소수 샘플 학습 방법들이 활용하지 않는 추가적인 작업 특유의 정보를 포함하고 있습니다. 추론 시 타겟 세트에는 오직 라벨이 없는 입력 데이터 포인트만 포함되어 있으므로, 판별적 학습(discriminative learning)을 사용할 수 없습니다. 이 논문에서는 자기 비판 및 적응(Self-Critique and Adapt, SCA)이라는 프레임워크를 제안합니다. SCA는 뉴럴 네트워크로 매개변수화된 라벨이 없는 손실 함수(label-free loss function)를 학습하는 방법을 제시합니다. 기본 모델은 기존 방법(예: 교차 엔트로피 손실과 결합된 확률적 경사 하강법)을 사용하여 서포트 세트에서 학습한 후, 학습된 손실 함수를 사용하여 도래하는 타겟 작업에 대해 업데이트됩니다. 이 라벨이 없는 손실 함수는 자체적으로 최적화되어 학습된 모델이 더 높은 일반화 성능을 달성하도록 설계되었습니다. 실험 결과, SCA는 서포트 세트만으로 적응하는 베이스라인보다 실질적으로 낮은 오류율을 제공하며, Mini-ImageNet 및 Caltech-UCSD Birds 200에서 최신 벤치마크 성능을 달성하였습니다.