サポートサンプルを用いた非パラメトリックなビュー割り当て予測による視覚特徴の半教師付き学習

本稿では、サポートサンプルを用いたビュー割り当ての予測によって学習を行う新しい手法、PAWS（Predicting View Assignments with Support samples）を提案する。この手法は、同一のラベルなしインスタンスに対する異なるビューが類似した擬似ラベルを割り当てられるようにする一貫性損失（consistency loss）を最小化するようにモデルを訓練する。擬似ラベルは、パラメトリックに生成されるのではなく、画像のビュー表現とランダムにサンプリングされたラベル付き画像の表現を比較することで非パラメトリックに生成される。ビュー表現とラベル付き表現との間の距離を用いて、クラスラベルに対する重み付けを算出し、これをソフトな擬似ラベルとして解釈する。このように非パラメトリックにラベル付きサンプルを組み込むことで、PAWSはBYOLやSwAVなどの自己教師学習手法で用いられる距離メトリック損失を、半教師あり学習設定に拡張する。このアプローチは単純であるにもかかわらず、様々なアーキテクチャにおいて他の半教師あり学習手法を上回り、ImageNet上で10%または1%のラベルのみを用いて学習したResNet-50において、それぞれトップ1精度75.5%および66.5%という新たなSOTA（最良の結果）を達成した。また、従来の最良手法に比べて、学習に必要な計算量は4倍から12倍も削減できる。