17일 전

소수 샘플 학습을 위한 일반화된 적응

Liang Song, Jinlu Liu, Yongqiang Qin
소수 샘플 학습을 위한 일반화된 적응
초록

다수의 소량 학습(Few-Shot Learning) 연구는 일반적으로 두 단계로 구성된다. 첫째, 기저 모델의 사전 학습(pre-training) 단계이며, 둘째는 새로운 클래스에 대한 적응(adapting) 단계이다. 본 논문에서는 폐쇄형(CLOSED-FORM) 기저 학습기(Closed-form Base Learner)를 제안하며, 사전 학습된 기저 모델을 제약 조건으로 하여 더 우수한 일반화 성능을 갖는 새로운 모델을 도출하는 방식을 제시한다. 이에 따른 이론적 분석을 통해 제안 방법의 타당성을 입증하고, 잘 일반화된 기저 모델을 훈련하기 위한 지침을 제시한다. 이후 네 가지 벤치마크에서 실험을 수행한 결과, 모든 경우에서 최신 기술(SOTA) 수준의 성능을 달성하였다. 특히 5샷(5-shot) miniImageNet에서 87.75%의 정확도를 기록하며, 기존 방법들에 비해 약 10% 가량 우수한 성능을 보였다.

소수 샘플 학습을 위한 일반화된 적응 | 최신 연구 논문 | HyperAI초신경