
要約
少ショット学習は、各タスクを独立して、また一から学習するアルゴリズムにとって挑戦的な課題である。対照的に、メタ学習は多くの関連タスクから学び、新しいタスクをより正確かつ迅速に少ない例で学習できるメタラーナーを生成する。本論文では、SGDのような簡単な訓練が可能なMeta-SGDを開発した。これは監督学習と強化学習の両方において、任意の微分可能なラーナーを単一ステップで初期化および適応させることが可能である。一般的なメタラーナーであるLSTM(Long Short-Term Memory)と比較すると、Meta-SGDは概念的に単純であり、実装が容易で、効率的に学習できる。最新のメタラーナーMAML(Model-Agnostic Meta-Learning)と比較すると、Meta-SGDはラーナーの初期化だけでなく、更新方向と学習率も単一のメタ学習プロセスで学ぶため、大幅に高い容量を持つ。Meta-SGDは回帰、分類、強化学習における少ショット学習において非常に競争力のある性能を示している。