2달 전

Unsupervised Meta-Learning의 특성을 통한 Few-Shot Task 재검토

Han-Jia Ye; Lu Han; De-Chuan Zhan
Unsupervised Meta-Learning의 특성을 통한 Few-Shot Task 재검토
초록

메타-러닝은 소수 샘플 이미지 분류(few-shot image classification)를 위한 실용적인 접근 방식으로, "분류기 학습 전략"이 라벨된 기본 클래스에서 메타-러닝되고 새로운 클래스의 작업에 적용될 수 있습니다. 우리는 기본 클래스 라벨의 요구사항을 제거하고 비지도 메타-러닝(Unsupervised Meta-Learning, UML)을 통해 일반화 가능한 임베딩을 학습합니다. 구체적으로, 메타-훈련 중에는 라벨이 없는 기본 클래스 데이터 증강을 사용하여 작업 에피소드를 구성하고, 메타-테스트 중에는 라벨이 있는 소수 샘플 예제를 사용하여 새로운 작업에 임베딩 기반 분류기를 적용합니다.우리는 UML에서 두 가지 요소가 중요한 역할을 하는 것을 관찰했습니다. 즉, 작업 샘플링 방법과 인스턴스 간 유사성 측정 방법입니다. 따라서 두 가지 단순한 수정을 통해 강력한 베이스라인을 얻었습니다. 충분한 샘플링 전략으로 한 에피소드당 여러 작업을 효율적으로 구성하며, 반 정규화된 유사성을 사용하는 것입니다. 그런 다음, 두 가지 방향으로 작업의 특성을 활용하여 더 나은 개선을 도모하였습니다.첫째, 혼동 인스턴스를 합성하여 더 구별력 있는 임베딩 추출에 도움을 주었습니다. 둘째, 메타-훈련 중에 작업별 임베딩 변환(task-specific embedding transformation)을 보조 컴포넌트로 활용하여事前适应的嵌入(pre-adapted embeddings)의 일반화 능력을 향상시켰습니다.소수 샘플 학습 벤치마크에서 수행한 실험 결과는 우리의 접근 방식이 이전 UML 방법들을 능가하며, 지도형 변형(supervised variants)과 비교해도 유사하거나 그보다 우수한 성능을 달성함을 확인하였습니다.(Note: The sentence "事前适应的嵌入(pre-adapted embeddings)" was mistakenly written in Chinese. Here is the corrected version in Korean: "事前适应的嵌入(pre-adapted embeddings)" should be "사전 적응된 임베딩(pre-adapted embeddings)".)修正后的翻译如下:메타-훈련 중에는 라벨이 없는 기본 클래스 데이터 증강을 사용하여 작업 에피소드를 구성하고, 메타-테스트 중에는 라벨이 있는 소수 샘플 예제를 사용하여 새로운 작업에 임베딩 기반 분류기를 적용합니다.우리는 UML에서 두 가지 요소가 중요한 역할을 하는 것을 관찰했습니다. 즉, 작업 샘플링 방법과 인스턴스 간 유사성 측정 방법입니다. 따라서 두 가지 단순한 수정을 통해 강력한 베이스라인을 얻었습니다. 충분한 샘플링 전략으로 한 에피소드당 여러 작업을 효율적으로 구성하며, 반 정규화된 유사성을 사용하는 것입니다. 그런 다음, 두 가지 방향으로 작업의 특성을 활용하여 더 나은 개선을 도모하였습니다.첫째, 혼동 인스턴스를 합성하여 더 구별력 있는 임베딩 추출에 도움을 주었습니다. 둘째, 사전 적응된 임베딩(pre-adapted embeddings)의 일반화 능력을 향상시키기 위해 메타-훈련 중에 작업별 임베딩 변환(task-specific embedding transformation)을 보조 컴포넌트로 활용하였습니다.소수 샘플 학습 벤치마크에서 수행한 실험 결과는 우리의 접근 방식이 이전 UML 방법들을 능가하며, 지도형 변형(supervised variants)과 비교해도 유사하거나 그보다 우수한 성능을 달성함을 확인하였습니다.

Unsupervised Meta-Learning의 특성을 통한 Few-Shot Task 재검토 | 최신 연구 논문 | HyperAI초신경