딥 커널을 통한 소수 샘플 설정에서의 베이지안 메타러닝

최근 들어, 특정 작업에 관련된 소규모 레이블링된 데이터셋에서 학습하는 데 도전적인 '피어샷 학습(few-shot learning)' 상황을 해결하기 위해 다양한 머신러닝 기법이 제안되어 왔다. 일반적인 접근 방식은 메타학습(meta-learning) 형태를 취하는데, 이는 기존 문제를 바탕으로 새로운 문제에 대해 '학습하는 법을 배우는' 방식이다. 메타학습이 다중 수준 모델에서 학습을 수행하고 있음을 인식한 이후, 우리는 깊은 커널(deep kernels)을 활용하여 메타학습의 내부 루프에 베이지안 처리를 도입한다. 그 결과, 새로운 작업으로 전이(transferring) 가능한 커널을 학습할 수 있으며, 이를 '딥 커널 전이(Deep Kernel Transfer, DKT)'라 부른다. 이 접근법은 다음과 같은 여러 장점이 있다: 단일 최적화기(single optimizer)로 간단히 구현 가능하며, 불확실성 정량화(uncertainty quantification)를 제공하고, 작업별 특화 파라미터 추정이 필요하지 않다. 실증적으로 DKT는 피어샷 분류에서 여러 최첨단 알고리즘을 능가함을 입증하였으며, 교차 도메인 적응(cross-domain adaptation)과 회귀(regression)에서도 최고 성능을 기록하고 있다. 결론적으로, 복잡한 메타학습 절차는 정확도 손실 없이 더 단순한 베이지안 모델로 대체될 수 있음을 확인하였다.