摘要
神经架构搜索（NAS）是一个有前景的研究方向，有可能用学习到的任务特定架构替代专家设计的网络。在本研究中，为了帮助该领域的实证结果建立基础，我们提出了新的NAS基线方法，这些方法基于以下观察：(i) NAS 是一个专门的超参数优化问题；(ii) 随机搜索是超参数优化的一个有力基线。利用这些观察，我们在两个标准的NAS基准测试——Penn Treebank（PTB）和CIFAR-10上评估了带有提前停止机制的随机搜索以及一种新颖的带有权重共享机制的随机搜索算法。我们的结果显示，带有提前停止机制的随机搜索是一种具有竞争力的NAS基线方法，例如，在这两个基准测试上其性能至少与领先的NAS方法ENAS相当。此外，带有权重共享机制的随机搜索优于带有提前停止机制的随机搜索，在PTB上达到了最先进的NAS结果，在CIFAR-10上也取得了非常有竞争力的结果。最后，我们探讨了已发表的NAS结果中存在的可重复性问题。我们注意到缺乏用于精确重现这些结果的源材料，并进一步讨论了在NAS实验设置中的各种变异性来源下已发表结果的鲁棒性。与此相关，我们提供了所有用于精确重现我们结果的信息（代码、随机种子、文档），并报告了每个基准测试在多次运行中带有权重共享机制的随机搜索的结果。