11日前

SelfMatch:対照的自己教師学習と一貫性の統合による半教師あり学習

Byoungjip Kim, Jinho Choo, Yeong-Dae Kwon, Seongho Joe, Seungjai Min, Youngjune Gwon
SelfMatch:対照的自己教師学習と一貫性の統合による半教師あり学習
要約

本稿では、対照的自己教師学習(contrastive self-supervised learning)と一貫性正則化(consistency regularization)の力を統合した、半教師付き学習手法SelfMatchを紹介する。SelfMatchは以下の2段階から構成される:(1)対照学習に基づく自己教師付き事前学習、および(2)増強の一貫性正則化に基づく半教師付き微調整。実験的に、SelfMatchがCIFAR-10やSVHNなどの標準ベンチマークデータセットにおいて、最先端の性能を達成することを示した。例えば、CIFAR-10においてラベル付きサンプルがクラスあたり40例のみの場合、SelfMatchは93.19%の精度を達成し、MixMatch(52.46%)、UDA(70.95%)、ReMixMatch(80.9%)、FixMatch(86.19%)といった従来の強力な手法を上回った。なお、クラスあたり少数のラベルのみを用いることで、Supervised Learning(95.87%)と半教師付き学習(93.19%)の性能ギャップを大きく縮めることができることにも注目すべきである。

SelfMatch:対照的自己教師学習と一貫性の統合による半教師あり学習 | 最新論文 | HyperAI超神経