라플라시안 정규화를 적용한 소량 학습

우리는 소수 샘플(few-shot) 작업을 위한 전도성(Laplacian) 정규화 추론을 제안한다. 기저 클래스로부터 학습된 임베딩 특징을 바탕으로, 두 가지 항을 포함하는 이차 이진 할당 함수를 최소화한다. 첫째, 쿼리 샘플을 가장 가까운 클래스 프로토타입에 할당하는 일원항(unary term), 둘째, 근접한 쿼리 샘플들이 일관된 레이블 할당을 갖도록 유도하는 쌍체(Laplacian) 항이다. 제안하는 전도성 추론은 기저 모델을 재학습하지 않으며, 지원 세트(support set)로부터의 supervision 제약 조건을 만족하는 쿼리 세트의 그래프 클러스터링으로 볼 수 있다. 본 연구는 제안한 함수의 완화된 형태에 대해 계산적으로 효율적인 경계 최적화기(bound optimizer)를 도출하였으며, 각 쿼리 샘플에 대해 독립적(병렬)으로 업데이트를 수행하면서 수렴성을 보장한다. 기저 클래스에 대한 단순한 교차 엔트로피 학습을 수행한 후, 복잡한 메타학습 전략 없이 다섯 가지 소수 샘플 학습 벤치마크에서 포괄적인 실험을 수행하였다. 실험 결과, 다양한 모델, 설정 및 데이터셋에서 라플라시안샷(LaplacianShot)은 기존 최첨단 방법들보다 유의미한 성능 차이를 보이며 일관되게 우수한 성능을 나타냈다. 또한, 제안하는 전도성 추론은 매우 빠르며, 계산 시간이 유도적(inductive) 추론과 유사하며, 대규모 소수 샘플 작업에도 활용 가능하다.