插值一致性训练在半监督学习中的应用

我们介绍了插值一致性训练（Interpolation Consistency Training, ICT），这是一种在半监督学习范式下训练深度神经网络的简单且计算高效的算法。ICT鼓励对未标记点的插值预测与这些点上的预测插值保持一致。在分类问题中，ICT将决策边界移动到数据分布的低密度区域。我们的实验表明，当将ICT应用于CIFAR-10和SVHN基准数据集上的标准神经网络架构时，它能够实现最先进的性能。理论分析显示，ICT相当于一种基于未标记点的数据自适应正则化方法，该方法在高置信度值下减少了对已标记点的过拟合现象。