
近年、性能の優れたニューラルアーキテクチャ(NAS)を効率的かつ自動的に探索する手法に注目が集まっている。このような研究の主な目的は、広大な探索空間を効率的に探索しつつ、高コストなアーキテクチャ評価の回数を最小限に抑えることにある。この目的の達成のため、サロゲートモデルはアーキテクチャを潜在空間(latent space)に埋め込み、その性能を予測する。一方、ニューラルアーキテクチャ用の生成モデルは、生成器が抽出する潜在空間内で最適化ベースの探索を可能にする。サロゲートモデルと生成モデルの両者は、構造化された潜在空間におけるクエリ効率の高い探索を促進することを目的としている。本論文では、効率的なサロゲートモデルと生成的設計の利点を活かし、クエリ効率性と有望なアーキテクチャ生成のトレードオフをさらに改善する手法を提案する。具体的には、逐次的により有望な潜在部分空間からサンプルを生成する能力を持つ生成モデルと、サロゲート予測器を組み合わせたアプローチを提案する。この手法により、極めて効果的かつ効率的なアーキテクチャ探索が可能となりつつ、クエリ回数を低く抑えることが実現される。さらに、本手法は、精度とハードウェア遅延といった複数の目的を直感的に同時に最適化できる点が特徴である。実験結果から、本手法は最高の分類精度を達成するためのアーキテクチャ最適化においてのみならず、ハードウェア制約を考慮した状況でも優れた性能を発揮することが示された。複数のNASベンチマークにおいて、単一および複数の目的に関する最先端手法を上回る結果が得られ、ImageNetにおいても最先端の性能を達成した。コードは http://github.com/jovitalukasik/AG-Net にて公開されている。