HyperAIHyperAI

Command Palette

Search for a command to run...

一階のメタ学習アルゴリズムについて

Alex Nichol Joshua Achiam John Schulman

概要

本論文では、タスクの分布が存在し、この分布からサンプリングされた未見のタスクに対して迅速に学習(つまり、良好なパフォーマンスを発揮)できるエージェントを獲得するメタ学習問題を取り扱います。私たちは、新しいタスクに対して迅速に微調整できるパラメータ初期化を学習するアルゴリズム群を分析します。これらのメタ学習更新には一階微分のみを使用します。このアルゴリズム群には、二階微分を無視することで得られるMAMLの近似である一階MAML(First-Order MAML)が含まれており、一般化されています。また、ここでは新たに提案するReptileアルゴリズムも含まれています。Reptileは、タスクを繰り返しサンプリングし、その上で訓練を行い、初期化パラメータを訓練済みの重み方向へ移動させる方法で動作します。私たちはFinnらの結果を拡張し、一階メタ学習アルゴリズムが少ショット分類のいくつかの既存ベンチマークで良好な性能を示すことを示しています。さらに、これらのアルゴリズムがなぜ効果的なのかを理解するために理論的な解析も提供しています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
一階のメタ学習アルゴリズムについて | 記事 | HyperAI超神経