摘要
单阶段长尾识别方法通常以一种“跷跷板”式的方式提升整体性能：即要么为提升尾部类别分类效果而牺牲头部类别的准确率，要么进一步提高头部类别的精度，却忽略尾部类别。现有算法通过多阶段训练过程规避这一权衡：先在分布不均衡的数据集上进行预训练，再在均衡数据集上进行微调。尽管取得了令人瞩目的性能表现，但这类方法不仅对预训练模型的泛化能力高度敏感，而且难以融入目标检测、图像分割等其他计算机视觉任务，因为在这些任务中，仅对分类器进行预训练并不适用。本文提出一种全新的单阶段长尾识别框架——互补专家协同机制（Allied Complementary Experts, ACE）。在该框架中，“专家”是指在某一子集上占据主导地位、具备高度专长的知识专家，其在低频类别上与其他专家形成互补关系，同时不受其未曾见过类别干扰的影响。我们设计了一种自适应分布优化器，动态调节每个专家的学习速率，以有效防止过拟合。在不依赖额外复杂组件的前提下，原始版本的ACE在CIFAR10-LT、CIFAR100-LT、ImageNet-LT和iNaturalist等多个长尾数据集上，相比当前最优的单阶段方法，性能提升了3%至10%。更重要的是，ACE是首个在单阶段内实现“跷跷板”权衡突破的模型，能够在不牺牲头部类别性能的前提下，同步提升多数类与少数类的识别准确率。相关代码与训练模型已开源，地址为：https://github.com/jrcai/ACE。