面向高效图像分类器搜索的广义全局排名感知神经架构排名器

神经架构搜索（Neural Architecture Search, NAS）是一种强大的自动化工具，用于高效设计图像处理深度神经网络（DNN）。为提升NAS中性能预测器的效率，排名学习（ranking）方法被广泛倡导。以往的对比学习方法通过成对比较不同架构并预测其相对性能来解决排名问题，但这类方法仅关注两个架构之间的局部排序关系，忽略了搜索空间中整体性能分布的全局信息，因而可能导致泛化能力不足的问题。为此，本文提出一种新型预测器——神经架构排名器（Neural Architecture Ranker, NAR），其核心思想是关注特定架构在全局性能层级中的位置。NAR从全局视角探索搜索空间的性能层级结构，根据每个架构在整体排名中的位置将其归入相应的质量层级。通过这种方式，预测器能够学习到搜索空间中性能分布的全局特征，从而显著增强其在不同数据集上的泛化能力。此外，全局性能分布还为搜索阶段提供了直接指导：可依据各质量层级的统计特性进行候选架构的采样，无需训练复杂的搜索算法（如强化学习RL或进化算法EA），从而简化了NAS的整体流程，并大幅降低计算开销。实验结果表明，所提出的NAR在两个广泛使用的NAS基准数据集上均优于现有最先进方法。在NAS-Bench-101这一大规模搜索空间中，仅通过采样即可迅速定位性能排名前0.01‰的架构。同时，NAR在NAS-Bench-201所涵盖的不同图像数据集（包括CIFAR-10、CIFAR-100和ImageNet-16-120）上也表现出优异的泛化能力，能够准确识别出各数据集下的最优架构。