要約
一貫性正則化（Consistency regularization）は、ラベル付きデータが少ない状況下での分類において、多数の強力な成果をもたらす半教師あり学習の手法である。この手法は、ラベルのないデータに対する摂動に対して学習済みモデルがロバストであるように促すことに基づいている。本研究では、新たなマスクベースの増強法である「CowMask」を提案する。このCowMaskを用いて半教師あり学習における一貫性正則化のための摂動を生成することで、ImageNetデータセットにおいてラベル付きデータを10%に制限した条件下で、トップ5誤差8.76%、トップ1誤差26.06%という最先端の性能を達成した。さらに、他の多くの手法と比較してはるかにシンプルなアプローチである点も特徴である。また、SVHN、CIFAR-10、CIFAR-100の各データセットを用いた多数の小規模実験を通じて、CowMaskの半教師あり学習における挙動を詳細に調査した結果、最先端の性能と同等の結果が得られ、CowMaskの広範な適用可能性が示された。本研究のコードはGitHubにてオープンソース化されており、以下のURLから公開されている：https://github.com/google-research/google-research/tree/master/milking_cowmask