要約
一般的な分類タスクの状況として、大量のデータが学習に利用可能である一方で、ラベル付きデータはわずかにしか存在しないケースが挙げられる。このような文脈において、半教師あり学習の目的は、ラベル付きデータに加えて大量のラベルなしデータから得られる情報を活用することで、分類精度を向上させることにある。近年の研究では、異なる増強処理を施したラベル付きデータとラベルなしデータ間の一貫性制約に着目することで、顕著な性能向上が達成されている。このアプローチに従い、本研究では、互いに類似する高信頼度のラベルなしデータ間のあまり注目されていない関係性に着目した新しい無監視目的関数を提案する。新たに提案する「Pair Loss」は、ある閾値を超える類似度を持つ高信頼度の擬似ラベル間の統計的距離を最小化することを目的としている。MixMatch系列で開発された技術と組み合わせることで、提案するSimPLEアルゴリズムはCIFAR-100およびMini-ImageNetにおいて従来の手法を大きく上回る性能を示し、CIFAR-10およびSVHNでは最先端の手法と同等の性能を達成している。さらに、ImageNetまたはDomainNet-Realで事前学習された重みで初期化されたモデルを用いた転移学習設定においても、SimPLEは最先端手法を上回る結果を示している。本研究のコードは、github.com/zijian-hu/SimPLEにて公開されている。