적절한 다양체를 그리는 방법: 소수 샘플 학습을 위한 다양체 믹스업

소수 샘플 학습(few-shot learning) 알고리즘은 몇 개의 라벨된 예제만을 사용하여 미처 본 적 없는 클래스에 적응할 수 있는 모델 매개변수를 학습하는 것을 목표로 합니다. 최근 제안된 정규화 기법인 맨ifold 믹스업(Manifold Mixup)은 데이터 분포의 작은 변화에 견고한 일반적인 표현을 학습하는 데 중점을 두고 있습니다. 소수 샘플 학습의 목표가 견고한 표현 학습과 밀접하게 연결되어 있으므로, 이 연구에서는 맨ifold 믹스업 기법을 소수 샘플 학습 문제 설정에서 검토합니다. 자기 감독 학습(self-supervised learning)은 데이터의 고유 구조만을 사용하여 의미론적으로 중요한 특징을 학습하는 또 다른 기법입니다. 이 연구는 소수 샘플 작업에서 자기 감독 및 정규화 기법을 활용하여 관련 특징 맨ifold를 학습하는 역할을 조사합니다. 우리는 맨ifold 믹스업으로 정규화된, 자기 감독 기법을 통해 향상된 특징 맨ifold가 소수 샘플 학습 성능을 크게 향상시키는 것을 관찰하였습니다. 실험 결과, 제안된 방법 S2M2가 CIFAR-FS, CUB, mini-ImageNet, tiered-ImageNet와 같은 표준 소수 샘플 학습 데이터셋에서 현재 최신의 정확도보다 3-8% 높다는 것을 보여주었습니다. 광범위한 실험을 통해 우리의 접근 방식으로 학습된 특징이 복잡한 소수 샘플 평가 작업, 크로스 도메인 시나리오에서 일반화되며, 데이터 분포의 약간의 변화에 대해 견고하다는 것을 입증하였습니다.