11 天前
SelfMatch:结合对比自监督与一致性用于半监督学习
Byoungjip Kim, Jinho Choo, Yeong-Dae Kwon, Seongho Joe, Seungjai Min, Youngjune Gwon

摘要
本文提出了一种名为SelfMatch的半监督学习方法,该方法结合了对比自监督学习与一致性正则化的优势。SelfMatch包含两个阶段:(1)基于对比学习的自监督预训练;(2)基于数据增强一致性正则化的半监督微调。实验结果表明,SelfMatch在CIFAR-10和SVHN等标准基准数据集上取得了当前最优的性能表现。例如,在仅使用每类40个标注样本的情况下,SelfMatch在CIFAR-10上的准确率达到了93.19%,显著优于此前的多种强基线方法,包括MixMatch(52.46%)、UDA(70.95%)、ReMixMatch(80.9%)和FixMatch(86.19%)。值得注意的是,SelfMatch仅依赖每类少量标注数据,便将半监督学习性能与监督学习(95.87%)之间的差距显著缩小。