NASI：初期化時におけるラベル・データに依存しないニューラルアーキテクチャサーチ

近年、ニューラルアーキテクチャ探索（Neural Architecture Search: NAS）に対する関心が急増している。NASの探索効率および効果を向上させるために、さまざまなアルゴリズムが提案されてきた。具体的には、探索コストの低減と、選択されたアーキテクチャの汎化性能の向上を目的としている。しかし、これらのアルゴリズムの探索効率は、探索プロセス中にモデルの訓練が必要となる点によって著しく制限されている。この課題を克服するために、本研究では、初期化時点で候補アーキテクチャの収束性能を特徴づけることができるニューラルタングエント・カーネル（Neural Tangent Kernel: NTK）の能力を活用する、新しいNASアルゴリズム「NAS at Initialization（NASI）」を提案する。この手法により、探索段階でのモデル訓練を完全に回避可能となり、探索効率が大幅に向上する。さらに、NASIはCIFAR-10/100やImageNetなど、さまざまなデータセットにおいて競争力のある探索効果を達成している。また、やや緩い条件下において、NASIがラベルやデータに依存しない（label- and data-agnostic）特性を持つことが示された。これにより、異なるデータセット間で選択されたアーキテクチャの転移可能性（transferability）が保証される。