HyperAI超神経

メタ学習

メタ学習自動学習アルゴリズムが機械学習実験のメタデータに適用される機械学習のサブフィールド。

メタ学習の中心となるのは「学習(トレーニング)」プロセスであり、ニューロンが新しいタスクに合わせて調整できるように、古い知識をどのように活用するかを研究することです。概略図は次のとおりです。

  • ニューラルネットワークの初期パラメータ(青の■)。
  • オプティマイザーパラメータ(ピンク色の★)。

この図には、トレーニングが必要な 2 つの主要な部分があります。

  • 以前のニューラル ネットワークを指すために「モデル (M)」という言葉を使用しますが、これは低レベル ネットワークとして理解できます。モデルの重みは図の ■ で表されます。
  • 低レベルのネットワークの重みを更新するために使用される上位モデルを参照するには、「オプティマイザー (O)」または「メタラーナー」を使用します。オプティマイザーの重みは、図の★で表されます。

参考文献

【1】ゼロから始める、メタ学習(機械の心臓部)を理解する

【2】メタ学習 (コンピュータサイエンス) (Wikipedia)

【3】「メタ学習」の理解 (CSDN ブログ)