少数ショット設定におけるディープカーネルを用いたベイズ型メタラーニング

近年、特定のタスクに関連する小さなラベル付きデータセットから学習するという挑戦的な少データ学習（few-shot learning）の状況に対処するために、さまざまな機械学習手法が提案されている。一般的なアプローチはメタ学習（meta-learning）に基づくものであり、過去の経験をもとに新しい問題に対して「学び方」を学ぶというアプローチである。メタ学習が多段階モデルにおける学習を実現しているという認識を踏まえ、本研究では深層カーネル（deep kernels）を用いたベイズ的手法をメタ学習の内側ループ（inner loop）に導入する。その結果、新しいタスクに一般化可能なカーネルを学習可能となり、これを「深層カーネル転送（Deep Kernel Transfer: DKT）」と呼ぶ。本手法は、単一の最適化器で実装が容易であり、不確実性の定量化が可能で、タスク固有のパラメータ推定を必要としないという多くの利点を持つ。実証実験の結果、DKTは少データ分類において複数の最先端アルゴリズムを上回り、ドメイン間適応および回帰においても最先端の性能を達成した。結論として、複雑なメタ学習の手続きは、精度を損なうことなく、より単純なベイズモデルに置き換え可能であることが示された。