CATCH：転移可能なアーキテクチャ探索のためのコンテキストベースメタ強化学習

近年、ニューラルアーキテクチャサーチ（NAS）は多くの画期的な成果を上げてきた。しかし、その著しい進展にもかかわらず、多くのアルゴリズムは特定の探索空間に限定されており、複数のタスクに直面した際に知識を効率的に再利用するメカニズムも欠如している。このような課題は、これらの手法の実用性を制限しており、新たなアプローチであるCATCH（Context-bAsed meTa reinforcement learning for transferrable arChitecture searcH）の提案を促した。CATCHは、メタラーニングと強化学習（RL）を組み合わせることで、探索空間に依存せずに新しいタスクに効率的に適応できる。CATCHは確率的エンコーダを用いてタスクの特性を潜在的なコンテキスト変数に符号化し、そのコンテキストがコントローラーを介して最適なネットワークを迅速に「キャッチ」するのをガイドする。また、これらのコンテキストはネットワーク評価器が劣った候補を効果的にフィルタリングし、学習を加速するのにも寄与する。多数の実験により、CATCHが他の広く知られたアルゴリズムと比較して、普遍性と探索効率の面で優れていることが実証された。さらに、ImageNet、COCO、Cityscapesといった異なるドメインにおけるアーキテクチャ探索においても、競争力のあるネットワークを同定できる能力を有している。本研究は、さまざまな設定において堅牢性を維持しつつ、効率的な転移可能なNASソリューションを提案する初の試みであると認識している。