予測子ベースのNAS向け汎用的なグラフベースのニューラルアーキテクチャ符号化方式

本研究は、予測器ベースのニューラルアーキテクチャ探索（NAS）を改善するため、新しいグラフベースのニューラルアーキテクチャ符号化方式「GATES（Graph-based neural ArchiTecture Encoding Scheme）」を提案する。特に、従来のグラフベースの手法とは異なり、GATESは演算を伝搬する情報の変換としてモデル化することで、ニューラルアーキテクチャにおける実際のデータ処理プロセスを模倣している。このアプローチにより、GATESはニューラルアーキテクチャをより現実的かつ合理的に表現でき、ノード上の演算を対象とする「operation on node」セル検索空間と、エッジ上の演算を対象とする「operation on edge」セル検索空間の両方から一貫してアーキテクチャを符号化可能である。さまざまな検索空間における実験結果から、GATESが性能予測器の性能向上に有効であることが確認された。さらに、改善された性能予測器を搭載することで、予測器ベースのNASフローのサンプル効率が顕著に向上した。コードは https://github.com/walkerning/aw_nas にて公開されている。