
摘要
在现实世界的数据集中,普遍存在一定程度的误标样本,因此实现对含噪声标签的深度神经网络的有效训练成为一项关键技术能力。若不加以处理,标签噪声会显著降低传统监督学习方法的性能。本文提出了一种鲁棒时间集成方法(Robust Temporal Ensembling, RTE),该方法结合了鲁棒损失函数与半监督正则化策略,实现了对标签噪声的强鲁棒性学习。实验结果表明,RTE在CIFAR-10、CIFAR-100、ImageNet、WebVision以及Food-101N等多个基准数据集上均达到了当前最优性能,且无需依赖近期流行的标签过滤与标签修正等技术。此外,我们在CIFAR-10-C数据集上进一步验证了RTE对未预见输入噪声的鲁棒性,即使在噪声比例高达80%的情况下,仍能保持优异表现,其平均噪声误差(mean corruption error, mCE)仅为13.50%,而标准方法在干净数据上的mCE则高达26.9%。