2ヶ月前
予測のための確率的推論のメタ学習
Jonathan Gordon; John Bronskill; Matthias Bauer; Sebastian Nowozin; Richard E. Turner

要約
本論文では、データ効率的かつ多用途な学習のための新しいフレームワークを紹介します。具体的には以下の通りです。1) 我々はML-PIP(Meta-Learning approximate Probabilistic Inference for Prediction)という、メタ学習の近似確率的推論を予測に適用する一般的なフレームワークを開発しました。ML-PIPは既存のメタ学習の確率的解釈を拡張し、広範な手法をカバーしています。2) VERSA(Versatile Amortization Network)というフレームワークの一例を導入します。VERSAは柔軟で多用途なアモルティゼーションネットワークを使用し、ショット数に関係なく少ショット学習データセットを入力として受け取り、単一の順方向パスでタスク固有のパラメータ分布を出力します。VERSAはテスト時の最適化を推論ネットワークを通じた順方向パスに置き換え、推論コストをアモルティズーションし、訓練中の2階微分の必要性を軽減します。3) VERSAをベンチマークデータセットで評価した結果、新しい最先端の成果を達成し、任意のショット数に対応できること、そして分類において訓練時とテスト時に任意のクラス数を取り扱えることが示されました。さらに、困難な少ショットShapeNetビュー再構成タスクにおいてもこの手法の威力が証明されています。