17일 전

소수 샘플 학습을 위한 인스턴스 신뢰도 추론

Yikai Wang, Chengming Xu, Chen Liu, Li Zhang, Yanwei Fu
소수 샘플 학습을 위한 인스턴스 신뢰도 추론
초록

소수 샘플 학습(Few-shot learning, FSL)은 각 카테고리에 대해 극도로 제한된 학습 데이터를 바탕으로 새로운 객체를 인식하는 것을 목표로 한다. 기존의 연구들은 메타학습(Meta-learning) 프레임워크를 활용하거나 데이터 증강에서 새로운 원칙을 도입함으로써 이러한 극도로 부족한 데이터 문제를 완화하려는 노력을 기울였다. 반면 본 논문은 라벨이 부여된 예시의 분포적 특성을 활용하여 소수 샘플 학습에 효과적으로 활용할 수 있는 간단한 통계적 접근법을 제안한다. 이 방법을 Instance Credibility Inference(ICI)라 명명한다. 구체적으로, 먼저 라벨이 부여된 소수 샘플을 이용해 선형 분류기를 학습한 후, 이 분류기를 활용하여 라벨이 없는 데이터에 대해 의사 라벨(pseudo-label)을 추론한다. 각 의사 라벨이 부여된 샘플의 신뢰도를 측정하기 위해, 부수적 파라미터의 희소성(sparsity)을 증가시키는 방식으로 또 다른 선형 회귀 가설을 해결하고, 희소성 정도에 따라 의사 라벨이 부여된 샘플들을 순위화한다. 이후 가장 신뢰도가 높은 의사 라벨 샘플들을 라벨이 부여된 예시와 함께 선택하여 선형 분류기를 재학습한다. 이 과정을 반복하여 라벨이 없는 샘플들이 모두 확장된 학습 데이터셋에 포함되며, 즉 라벨이 없는 데이터 풀에 대한 의사 라벨이 수렴할 때까지 반복한다. 두 가지 다른 소수 샘플 설정 하에서 실시한 광범위한 실험 결과, 본 논문에서 제안한 간단한 방법이 miniImageNet, tieredImageNet, CIFAR-FS, CUB 등 널리 사용되는 네 가지 소수 샘플 학습 기준 데이터셋에서 새로운 최고 성능(State-of-the-art)을 달성함을 입증하였다. 본 논문의 코드는 다음과 같은 링크에서 공개되어 있다: https://github.com/Yikai-Wang/ICI-FSL

소수 샘플 학습을 위한 인스턴스 신뢰도 추론 | 최신 연구 논문 | HyperAI초신경