2달 전

다양성이 도움이 됩니다: 분포 이동 기반 데이터 증강을 통한 비지도 소수 샘플 학습

Tiexin Qin; Wenbin Li; Yinghuan Shi; Yang Gao
다양성이 도움이 됩니다: 분포 이동 기반 데이터 증강을 통한 비지도 소수 샘플 학습
초록

소수 샘플 학습(few-shot learning)은 몇 개의 훈련 예제만으로 새로운 개념을 학습하는 것을 목표로 하며, 최근 몇 년 동안 활발히 연구되어 왔습니다. 그러나 대부분의 현재 연구는 에피소드 훈련 패러다임에서 모델을 훈련시키기 위해 대규모 라벨링된 보조 데이터 세트에 크게 의존하고 있습니다. 이러한 감독된 설정은 기본적으로 소수 샘플 학습 알고리즘의 광범위한 사용을 제한합니다. 본 논문에서는 각 구축된 사전 작업에서 데이터 증강을 사용할 때 내부 분포 다양성을 고려하는 새로운 프레임워크인 분포 이동 기반 데이터 증강을 통한 비지도 소수 샘플 학습(ULDA, Unsupervised Few-shot Learning via Distribution Shift-based Data Augmentation)을 개발하였습니다. 특히, 우리는 증강 기반 사전 작업에서 분포 다양성의 가치와 중요성을 강조하며, 이를 통해 과적합 문제를 효과적으로 완화하고 소수 샘플 모델이 더 강건한 특징 표현을 학습할 수 있음을 지적합니다.ULDA에서는 다양한 증강 기술의 영향을 체계적으로 조사하고, 각 소수 샘플 작업에서 쿼리 세트와 서포트 세트 간의 분포 다양성(또는 차이)를 강화하기 위해 이 두 세트를 다양하게 증강하는 방법(즉, 분포 이동)을 제안합니다. 이렇게 함으로써 간단한 증강 기술(예: 랜덤 크롭, 컬러 조정, 회전 등)이라도 우리의 ULDA가 상당한 개선 효과를 낼 수 있습니다. 실험 결과, ULDA로 학습된 소수 샘플 모델들은 Omniglot과 miniImageNet에서 다양한 확립된 소수 샘플 학습 작업에서 우월한 일반화 성능을 보여주며 최신 기술 수준의 결과를 얻었습니다. 본 논문의 원천 코드는 https://github.com/WonderSeven/ULDA에서 제공됩니다.

다양성이 도움이 됩니다: 분포 이동 기반 데이터 증강을 통한 비지도 소수 샘플 학습 | 최신 연구 논문 | HyperAI초신경