要約
ニューラルアーキテクチャ探索（NAS）における主な課題は、膨大な探索空間において効果的に探索を行う仕組みを設計することである。本研究では、探索空間の一部のみを精査しつつも、高い探索精度を達成しつつ探索効率を向上させる新しいNAS手法、TNAS（Trees-based NAS）を提案する。TNASはアーキテクチャ木とバイナリ操作木を導入することで、探索空間を因子分解し、探索規模を大幅に削減する。さらに、提案する木構造上で修正された二段階幅優先探索（bi-level Breadth-First Search）を実行し、高性能なアーキテクチャを発見する。驚くべきことに、TNASはNAS-Bench-201のCIFAR-10データセットにおいて、4 GPU時間でグローバル最適アーキテクチャを発見し、テスト精度94.37％を達成した。平均テスト精度は94.35％であり、既存の最先端手法を上回っている。コードは以下のURLで公開されている：\url{https://github.com/guochengqian/TNAS}。