TADAM: 과제 종속적 적응 메트릭을 활용한 개선된 소수 샘플 학습

소수 샘플 학습(few-shot learning)은 소수의 예제로부터 일반화할 수 있는 모델을 생성하는 데 있어 필수적입니다. 본 연구에서는 메트릭 스케일링(metric scaling)과 메트릭 작업 조건부화(metric task conditioning)가 소수 샘플 알고리즘의 성능 향상에 중요한 역할을 함을 확인하였습니다. 우리의 분석 결과, 간단한 메트릭 스케일링이 소수 샘플 알고리즘의 매개변수 업데이트 특성을 완전히 변화시키는 것으로 나타났습니다. 메트릭 스케일링은 mini-Imagenet 5-way 5-shot 분류 작업에서 특정 메트릭에 대해 최대 14%의 정확도 향상을 제공합니다. 또한, 학습자가 작업 샘플 세트(task sample set)에 조건부로 적용되는 간단하면서 효과적인 방법을 제안하여 작업 종속 메트릭 공간(task-dependent metric space)을 학습하였습니다. 더 나아가, 작업 종속 메트릭 공간을 학습하기 위한 보조 작업 공동 훈련(auxiliary task co-training) 기반의 실용적인 엔드투엔드(end-to-end) 최적화 절차를 제안하고 실험적으로 검증하였습니다. 이 과정으로 얻어진 작업 종속 스케일된 메트릭(task-dependent scaled metric) 기반의 소수 샘플 학습 모델은 mini-Imagenet에서 최고 수준의 성능을 달성하였습니다. 우리는 본 논문에서 CIFAR100 기반으로 소개하는 또 다른 소수 샘플 데이터셋에서도 이러한 결과를 확인하였습니다. 우리의 코드는 https://github.com/ElementAI/TADAM 에 공개되어 있습니다.