FreeMatch: 半教師付き学習における自己適応閾値設定

半教師あり学習（Semi-supervised Learning, SSL）は、偽ラベル付け（pseudo labeling）および一貫性正則化（consistency regularization）に基づく多様な手法が示す優れた性能により、著しい進展を遂げてきた。しかし、現存の手法は、事前に定義された固定閾値または臨時の閾値調整スキームを用いるため、未ラベルデータの有効活用が不十分であり、結果として性能が劣化し、収束が遅くなる可能性があると我々は主張する。まず、モデルの学習状態と望ましい閾値の関係を理解するための動機づけとなる例を分析した。その分析に基づき、我々はモデルの学習状態に応じて信頼度閾値を自己適応的に調整する「FreeMatch」を提案する。さらに、初期学習段階におけるモデルの多様な予測を促進するため、自己適応的なクラス公平性正則化ペナルティを導入した。広範な実験の結果、特にラベル付きデータが極めて少ない状況下でFreeMatchの優位性が顕著に示された。CIFAR-10（クラスあたり1ラベル）、STL-10（クラスあたり4ラベル）、ImageNet（クラスあたり100ラベル）において、最新の最先端手法であるFlexMatchと比較して、それぞれ5.78%、13.59%、1.28%の誤差率低減を達成した。さらに、不均衡な半教師あり学習においても、FreeMatchは性能向上をもたらすことが確認された。実装コードは以下のURLで公開されている：https://github.com/microsoft/Semi-supervised-learning。