11일 전

NP-매치: 신경과정이 반감독학습과 만날 때

Jianfeng Wang, Thomas Lukasiewicz, Daniela Massiceti, Xiaolin Hu, Vladimir Pavlovic, Alexandros Neophytou
NP-매치: 신경과정이 반감독학습과 만날 때
초록

최근 몇 년 동안 반감독 학습(semi-supervised learning, SSL)은 광범위하게 연구되어 왔으며, 레이블이 붙지 않은 데이터를 효과적으로 활용함으로써 레이블 데이터에 대한 의존도를 줄이는 효율적인 방법으로 자리 잡았다. 본 연구에서는 신경 과정(neural processes, NPs)을 반감독 이미지 분류 작업에 적응시켜 새로운 방법인 NP-Match를 제안한다. NP-Match는 이 작업에 적합한 두 가지 이유가 있다. 첫째, NP-Match는 예측을 수행할 때 데이터 포인트 간의 암묵적인 비교를 수행하며, 그 결과 각 레이블이 없는 데이터 포인트의 예측은 해당 데이터와 유사한 레이블이 있는 데이터 포인트의 영향을 받게 되어 의사 레이블(pseudo-label)의 품질을 향상시킨다. 둘째, NP-Match는 불확실성(uncertainty)을 추정할 수 있으며, 이는 신뢰할 수 있는 의사 레이블을 가진 레이블이 없는 샘플을 선택하는 데 활용될 수 있는 도구로 기능한다. 몬테카를로(Monte Carlo, MC) 드롭아웃을 활용한 불확실성 기반 SSL 방법과 비교했을 때, NP-Match는 훨씬 낮은 계산 부담으로 불확실성을 추정할 수 있어 훈련 및 테스트 단계 모두에서 시간을 절약할 수 있다. 우리는 네 가지 공개 데이터셋에서 광범위한 실험을 수행하였으며, NP-Match는 최신 기술(state-of-the-art, SOTA) 수준의 성능을 넘어서거나 경쟁 가능한 성능을 달성하였다. 이는 NP-Match의 효과성과 반감독 학습 분야에서의 잠재력을 입증하는 결과이다.

NP-매치: 신경과정이 반감독학습과 만날 때 | 최신 연구 논문 | HyperAI초신경