DPGN: 소수 샘플 학습을 위한 분포 전파 그래프 네트워크

대부분의 그래프 네트워크 기반 메타러닝 접근법은 예제 간의 인스턴스 수준 관계를 모델링한다. 본 연구에서는 이를 보다 발전시켜, 한 예제와 다른 모든 예제들 간의 분포 수준 관계를 1-vs-N 방식으로 명시적으로 모델링한다. 이를 위해 소수 샘플 학습(few-shot learning)을 위한 새로운 접근법인 분포 전파 그래프 네트워크(Distribution Propagation Graph Network, DPGN)를 제안한다. DPGN은 각 소수 샘플 학습 태스크 내에서 분포 수준 관계와 인스턴스 수준 관계를 모두 전달한다. 모든 예제에 대한 분포 수준 관계와 인스턴스 수준 관계를 통합하기 위해, 각 노드가 하나의 예제를 나타내는 점 그래프(point graph)와 분포 그래프(distribution graph)로 구성된 이중 완전 그래프 네트워크(dual complete graph network)를 구축한다. 이중 그래프 아키텍처를 갖춘 DPGN은 몇 차례 업데이트 세대에 걸쳐 레이블이 부여된 예제로부터 레이블이 없는 예제로 레이블 정보를 전파한다. 소수 샘플 학습 벤치마크에서 실시한 광범위한 실험 결과, DPGN은 감독 학습 설정에서 5%~12%, 반감독 학습 설정에서 7%~13%의 큰 폭으로 최신 기술 대비 성능을 개선하였다. 코드는 곧 공개될 예정이다.