모델 독립형 그래프 정규화를 통한 소량 학습

다수의 영역에서 카테고리 간 관계는 지식 그래프에 인코딩된다. 최근, 극도로 제한된 데이터를 가진 하드 분류 작업에 지식 그래프를 보조 정보로 통합함으로써 유망한 성과가 달성되었다. 그러나 기존 모델들은 성능에 영향을 미치는 여러 하위 구성 요소를 포함한 매우 복잡한 아키텍처로 구성되어 있다. 본 논문에서는 그래프 임베딩을 활용한 희소 샘플 학습(few-shot learning)에 대한 포괄적인 실증적 연구를 제시한다. 우리는 레이블 간 그래프 정보를 통합할 때의 영향을 깊이 있게 이해할 수 있도록 도와주는 그래프 정규화 방식을 도입한다. 제안하는 정규화 방법은 넓은 범위에서 적용 가능하며 모델에 독립적이며, 미세 조정(fine-tuning), 거리 기반(metric-based), 최적화 기반(optimization-based) 메타학습을 포함한 모든 희소 샘플 학습 모델의 성능을 향상시킨다. 본 방법은 Mini-ImageNet에서 강력한 기저 학습자(base learner)의 성능을 최대 2% 향상시키며, ImageNet-FS에서는 최대 6.7%까지 개선하여 최신의 그래프 임베딩 기반 방법들을 능가한다. 추가 분석 결과, 그래프 정규화 모델은 샷 수가 적고 지침 예제가 정보량이 낮은 등 더 어려운 과제에서 더 낮은 손실을 기록함을 확인할 수 있었다.