EEEA-Net：早期エグジット進化的ニューラルアーキテクチャサーチ

本研究の目的は、計算リソースが限られたデバイスプロセッサに適した畳み込みニューラルネットワーク（CNN）アーキテクチャを探索し、ネットワークアーキテクチャ探索（NAS）にかかるコストを大幅に低減することであった。この目的を達成するため、進化的アルゴリズム（EA）向けに新たなアルゴリズム「エアリー・エグジット・ポピュレーション初期化（Early Exit Population Initialisation, EE-PI）」を開発した。EE-PIは、探索プロセス中のモデルのパラメータ数を最大閾値より少ないものに絞り込むことで、全体のパラメータ数を削減する。閾値を超えるパラメータ数を持つモデルは、新たに生成された低パラメータモデルに置き換えられる。これにより、パラメータ数、モデル保存および処理に必要なメモリ使用量、処理時間を削減しつつ、性能や精度を維持することが可能となる。探索時間は0.52 GPU日まで短縮され、NSGA-Netによる4 GPU日、AmoebaNetによる3,150 GPU日、NASNetによる2,000 GPU日と比較して、顕著な改善を達成した。さらに、エアリー・エグジット進化的アルゴリズムネットワーク（Early Exit Evolutionary Algorithm Networks, EEEA-Nets）は、特定のデータセットに最適な最小誤差および最小計算コストを持つネットワークアーキテクチャを生成する、ネットワークアルゴリズムの一形態として機能する。CIFAR-10、CIFAR-100、ImageNetデータセットにおいてEEEA-Netを用いた実験の結果、最先端のNASモデルの中でも最も低い誤差率を達成した。具体的には、CIFAR-10で2.46%、CIFAR-100で15.02%、ImageNetで23.8%の誤差率を記録した。さらに、本研究で提案した画像認識アーキテクチャを、物体検出、セマンティックセグメンテーション、キーポイント検出といった他のタスクに適用したところ、EEEA-Net-C2はこれらのすべてのタスクにおいてMobileNet-V3を上回る性能を発揮した。なお、本アルゴリズムの実装コードはGitHubにて公開されている（https://github.com/chakkritte/EEEA-Net）。