17日前

FixMatch:一貫性と信頼度を活用した半教師付き学習の簡素化

{Kihyuk Sohn∗ David Berthelot∗ Chun-Liang Li Zizhao Zhang Nicholas Carlini Ekin D. Cubuk Alex Kurakin Han Zhang Colin Raffel}
FixMatch:一貫性と信頼度を活用した半教師付き学習の簡素化
要約

半教師あり学習(Semi-supervised Learning, SSL)は、ラベルなしデータを活用してモデルの性能を向上させる有効な手法を提供する。本論文では、二つの一般的なSSL手法である一貫性正則化(consistency regularization)と擬似ラベル化(pseudo-labeling)の単純な組み合わせが持つ強力な効果を示す。我々が提案するアルゴリズムであるFixMatchは、弱いデータ拡張を施したラベルなし画像に対してモデルが予測する結果をもとに、擬似ラベルを生成する。ある画像について、モデルが高信頼度の予測を出力した場合にのみ、その擬似ラベルを保持する。その後、同じ画像の強力な拡張バージョンを入力として与えた際に、モデルがその擬似ラベルを正しく予測するよう学習を行う。この手法は単純であるにもかかわらず、CIFAR-10において250ラベルでの精度94.93%、クラスあたりたった4ラベル(合計40ラベル)での精度88.61%という、さまざまな標準的な半教師あり学習ベンチマークにおいて最先端の性能を達成している。FixMatchは、性能が劣る既存のSSL手法と多くの点で類似しているため、その成功に寄与する実験的要因を明らかにするため、広範なアブレーションスタディを実施した。本研究のコードは、https://github.com/google-research/fixmatch にて公開している。

FixMatch:一貫性と信頼度を活用した半教師付き学習の簡素化 | 最新論文 | HyperAI超神経