
摘要
神经架构搜索(Neural Architecture Search, NAS)在计算机视觉任务的网络架构设计方面展现了卓越性能。NAS通过自动化架构设计与工程过程,减少了对人工设定的依赖。然而,现有的NAS方法普遍速度较慢,主要因其需要大量GPU计算资源。这一瓶颈主要源于性能评估策略——该策略需对生成的网络架构进行评估,通常通过训练这些架构来获取性能指标,进而更新采样方法。本文提出一种高效的性能评估策略——EPE-NAS,该方法通过评估未训练网络的得分,并建立其与训练后性能之间的相关性,从而缓解网络评估的计算负担。我们通过分析未训练网络内部(intra-class)与跨类(inter-class)的特征相关性来实现这一目标。实验结果表明,EPE-NAS能够建立稳健的性能预测相关性。进一步地,将该策略与简单的随机采样方法结合,仅需单张GPU,在数秒内即可搜索出具有竞争力的网络架构,且无需任何训练过程。此外,EPE-NAS与具体的搜索策略无关,因其核心在于对未训练网络的评估,因此可轻松集成至绝大多数NAS框架中。