
ニューラルアーキテクチャ探索(NAS)は、特定のタスクに最適なニューラルネットワークの設計を自動化する可能性を示しており、その有用性が注目されている。しかし、最適なアーキテクチャを探索するためには膨大な数のアーキテクチャを評価する必要があり、その過程における学習コストが非常に高いため、計算コストが著しく高いという課題がある。NASの高速化を図るため、最近の研究では、全体のアーキテクチャを探索する「グローバル探索」ではなく、ネットワークのモジュール単位(ビルディングブロック)に限定した「モジュール探索」に焦点を当てている。さらに、完全な訓練を実施せずに性能評価を近似する手法や、離散最適化に適した自然なアプローチではなく勾配降下法を用いる手法も採用されている。しかし、モジュール探索ではネットワークのマクロアーキテクチャ(深さや幅など)を決定できないため、探索後の段階で手動による試行錯誤が必要となり、完全な自動化とは言えない。本研究では、NASの再考を試み、ナビゲート可能かつアーキテクチャ的に多様性を持つマクロ・マイクロ探索空間を設計した。また、候補アーキテクチャの相対的な順位を決定する際、従来の手法は探索空間全体にわたって一貫した近似を適用しているが、同一の学習プロトコル下では異なるネットワーク同士が公平に比較できるとは限らない。この点を踏まえ、ネットワークごとに異なる学習スキームを採用する「アーキテクチャに配慮した近似」を提案した。さらに、マクロとマイクロのネットワーク設計を分離する効率的な探索戦略を構築することで、精度とサイズの両面で競争力のあるアーキテクチャを効率的に生成することに成功した。提案するフレームワークは、EMNISTおよびKMNISTにおいて新たなSOTA(最良の成果)を達成し、CIFAR-10、CIFAR-100、FashionMNISTの各データセットにおいても高い競争力を発揮。さらに、最も高速なグローバル探索手法と比較して、2〜4倍の高速化を実現した。最後に、本フレームワークが実世界のコンピュータビジョン問題への適用においても有効であることを示すため、顔認識アプリケーション向けに競争力のあるアーキテクチャを発見した。