摘要
在基于预测的神经架构搜索（Neural Architecture Search, NAS）中，基于图卷积网络（Graph Convolutional Networks, GCN）提取的性能指标已展现出显著成效。这些指标通过独热编码（one-hot encoding）将前馈结构表示为组件图，但存在一个局限性：难以在不同搜索空间之间有效评估架构性能。相比之下，手工设计的零样本NAS（zero-shot NAS）性能指标，采用随机初始化的同一架构进行评估，具备在多个搜索空间间良好泛化的能力。为克服上述局限，本文提出一种基于深度学习的新型零样本NAS方法。该方法采用正弦函数的傅里叶求和（Fourier sum of sines）对卷积核进行编码，从而构建出与待评估架构结构高度相似的计算前馈图。此类编码具有可学习特性，能够全面捕捉架构的拓扑信息。随后，一个配套的多层感知机（Multi-Layer Perceptron, MLP）根据这些编码对不同架构进行排序。实验结果表明，该方法在NAS-Bench-201数据集上的性能相关性优于以往基于图卷积网络的方法，并展现出更高的收敛速度。此外，我们在各NAS基准上训练所得的特征表示具有良好的可迁移性，能够有效应用于其他NAS基准，体现出在多个搜索空间中出色的泛化能力。代码已开源，地址为：https://github.com/minh1409/DFT-NPZS-NAS。