예측을 위한 확률적 추론의 메타학습

본 논문은 데이터 효율적이고 다양한 학습을 위한 새로운 프레임워크를 소개합니다. 구체적으로 다음과 같습니다: 1) 우리는 ML-PIP(Meta-Learning approximate Probabilistic Inference for Prediction)라는 일반적인 메타-러닝 근사 확률 추론 프레임워크를 개발하였습니다. ML-PIP은 기존의 메타-러닝 확률 해석을 다양한 방법으로 확장하여 포괄할 수 있도록 설계되었습니다. 2) 우리는 VERSA라는 프레임워크의 한 사례를 제시합니다. VERSA는 소수 샘플 학습(few-shot learning) 데이터셋을 입력으로 받아 임의의 샘플 수에 대해 단일 순방향 전달 과정에서 작업 특이적 매개변수 분포를 출력하는 유연하고 다양한 암모르티제이션(amortization) 네트워크를 사용합니다. VERSA는 테스트 시점에서 최적화 과정을 추론 네트워크를 통한 순방향 전달로 대체하여 추론 비용을 암모르티제이션하고, 훈련 중에 두 번째 도함수(second derivatives)가 필요 없는 상태로 만듭니다. 3) 우리는 VERSA를 벤치마크 데이터셋에서 평가하였으며, 이 방법은 새로운 최고 성능(state-of-the-art) 결과를 달성하며, 임의의 샘플 수와 분류 작업에서는 훈련 및 테스트 시점에서 임의의 클래스 수를 처리할 수 있음을 확인하였습니다. 이 접근 방식의 강점을 소수 샘플 ShapeNet 뷰 재구성 작업이라는 어려운 태스크를 통해 보여주었습니다.