11日前

NP-Match:ニューラルプロセスが半教師付き学習と出会うとき

Jianfeng Wang, Thomas Lukasiewicz, Daniela Massiceti, Xiaolin Hu, Vladimir Pavlovic, Alexandros Neophytou
NP-Match:ニューラルプロセスが半教師付き学習と出会うとき
要約

近年、教師あり学習(semi-supervised learning, SSL)は広く研究されており、ラベルなしデータを活用することで、ラベル付きデータへの依存を低減する有効な手法として注目されている。本研究では、ニューラルプロセス(Neural Processes, NPs)を教師あり学習の画像分類タスクに適応させ、新たな手法であるNP-Matchを提案する。NP-Matchはこのタスクに適している点が二つある。第一に、NP-Matchは予測を行う際にデータポイント間の暗黙的な比較を実施するため、各ラベルなしデータポイントの予測結果は、そのデータに類似するラベル付きデータポイントの影響を受ける。この特性により、偽ラベル(pseudo-label)の品質が向上する。第二に、NP-Matchは不確実性(uncertainty)を推定できるため、信頼性の高い偽ラベルを持つラベルなしサンプルを選択するツールとして活用可能である。モンテカルロ(MC)ドロップアウトを用いた従来の不確実性ベースのSSL手法と比較して、NP-Matchははるかに少ない計算負荷で不確実性を推定できるため、学習段階および推論段階の両方で時間の節約が可能である。本研究では4つの公開データセットを用いて広範な実験を実施した結果、NP-Matchは最先端(SOTA)手法を上回る性能を達成するか、あるいは同等の性能を示した。これらの結果は、NP-Matchの有効性およびSSLにおける潜在的な応用可能性を示している。

NP-Match:ニューラルプロセスが半教師付き学習と出会うとき | 最新論文 | HyperAI超神経