17日前

多条件付きグラフ拡散を用いたニューラルアーキテクチャサーチ

Rohan Asthana, Joschua Conrad, Youssef Dawoud, Maurits Ortmanns, Vasileios Belagiannis
多条件付きグラフ拡散を用いたニューラルアーキテクチャサーチ
要約

ニューラルアーキテクチャ探索(NAS)は、通常、非常に広く複雑なアーキテクチャ探索空間を探索することにより、ニューラルネットワークアーキテクチャの設計を自動化する手法である。本研究では、高パフォーマンスなニューラルネットワークアーキテクチャを生成するために、離散的条件付きグラフ拡散過程を用いるグラフ拡散ベースのNASアプローチを提案する。さらに、グラフ拡散ネットワークに適用可能なマルチ条件付き、分類器不要なガイダンス手法を提案し、高い精度と低いハードウェア遅延といった複数の制約を同時に満たすように制御する。既存の研究とは異なり、本手法は完全に微分可能であり、単一のモデル学習のみで済む。評価において、6つの標準ベンチマークで有望な結果を示し、1アーキテクチャあたり0.2秒未満という高速な速度で、新規かつ特異なアーキテクチャを生成することを実証した。さらに、ImageNetデータセットを用いた実験を通じて、本手法の汎用性および効率性を明らかにした。

多条件付きグラフ拡散を用いたニューラルアーキテクチャサーチ | 最新論文 | HyperAI超神経