HyperAIHyperAI

Command Palette

Search for a command to run...

CATCH:転移可能なアーキテクチャ探索のためのコンテキストベースメタ強化学習

Xin Chen Yawen Duan Zewei Chen Hang Xu Zihao Chen Xiaodan Liang Tong Zhang Zhenguo Li

概要

近年、ニューラルアーキテクチャサーチ(NAS)は多くの画期的な成果を上げてきた。しかし、その著しい進展にもかかわらず、多くのアルゴリズムは特定の探索空間に限定されており、複数のタスクに直面した際に知識を効率的に再利用するメカニズムも欠如している。このような課題は、これらの手法の実用性を制限しており、新たなアプローチであるCATCH(Context-bAsed meTa reinforcement learning for transferrable arChitecture searcH)の提案を促した。CATCHは、メタラーニングと強化学習(RL)を組み合わせることで、探索空間に依存せずに新しいタスクに効率的に適応できる。CATCHは確率的エンコーダを用いてタスクの特性を潜在的なコンテキスト変数に符号化し、そのコンテキストがコントローラーを介して最適なネットワークを迅速に「キャッチ」するのをガイドする。また、これらのコンテキストはネットワーク評価器が劣った候補を効果的にフィルタリングし、学習を加速するのにも寄与する。多数の実験により、CATCHが他の広く知られたアルゴリズムと比較して、普遍性と探索効率の面で優れていることが実証された。さらに、ImageNet、COCO、Cityscapesといった異なるドメインにおけるアーキテクチャ探索においても、競争力のあるネットワークを同定できる能力を有している。本研究は、さまざまな設定において堅牢性を維持しつつ、効率的な転移可能なNASソリューションを提案する初の試みであると認識している。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています