
摘要
元学习(meta-learning)用于少样本学习(few-shot learning)的目标是从先前的任务和经验中获取一个先验,使得新任务可以从少量数据中进行学习。然而,少样本学习中的一个关键挑战是任务模糊性:即使可以从大量先前任务中元学习到一个强大的先验,新任务的小型数据集可能仍然过于模糊,无法获得针对该任务的单一准确模型(例如分类器)。在本文中,我们提出了一种概率元学习算法,可以从模型分布中为新任务采样模型。我们的方法扩展了模型无关元学习(model-agnostic meta-learning, MAML),后者通过梯度下降适应新任务,以包含通过变分下界训练的参数分布。在元测试阶段,我们的算法通过一种简单的程序来适应,该程序在梯度下降过程中注入噪声;而在元训练阶段,模型被训练成使得这种随机适应过程能够从近似的模型后验分布中生成样本。实验结果表明,我们的方法可以在模糊的少样本学习问题中采样出合理的分类器和回归器。我们还展示了如何利用对模糊性的推理来解决下游主动学习问题。