9 天前

一种简单的分段线性探测方法提升野外视觉识别性能

{Yi Yang, Xiaohan Wang, Linchao Zhu, Yuanzhi Liang}
一种简单的分段线性探测方法提升野外视觉识别性能
摘要

在视觉识别领域,理解网络的泛化能力与特征判别性仍是一个开放性的研究问题。众多研究致力于评估特征表示的质量。其中一种简单有效的方法是采用线性探针分类器(linear probing classifier),通过在所得特征上定量评估分类准确率来衡量特征性能。传统的线性探针通常仅在推理阶段作为代理使用,其在训练过程中对特征是否适合线性分类的衡量作用却鲜受关注。本文提出一种分段式线性探针(Episodic Linear Probing, ELP)分类器,能够以在线方式反映视觉表示的泛化能力。ELP 通过从网络中提取解耦的特征进行训练,并在每个训练周期(episode)中重新初始化,从而在训练过程中持续体现视觉表示的判别能力。进一步地,本文引入一种适用于 ELP 的正则化项(ELP-Suitable Regularization, ELP-SR),用于衡量 ELP 分类器与主分类器之间概率分布的距离。ELP-SR 引入重缩放因子(re-scaling factor),对训练过程中的每个样本进行自适应调节,动态优化损失函数,促使特征具备更强的判别性与泛化能力。在三个真实世界视觉识别任务中——细粒度图像分类、长尾分布视觉识别以及通用物体识别——实验结果均显示出显著的性能提升。这些成果充分验证了所提方法在增强网络泛化能力与特征判别性方面的有效性。