2 个月前
元学习概率推理以进行预测
Jonathan Gordon; John Bronskill; Matthias Bauer; Sebastian Nowozin; Richard E. Turner

摘要
本文介绍了一种新的数据高效且多功能的学习框架。具体而言:1) 我们开发了ML-PIP(Meta-Learning approximate Probabilistic Inference for Prediction),这是一种用于元学习近似概率推理以进行预测的通用框架。ML-PIP扩展了现有的元学习的概率解释,涵盖了广泛的方法。2) 我们引入了VERSA,该框架的一个实例,它采用了一个灵活且多功能的摊销网络,可以接受少样本学习数据集作为输入,并在任意数量的样本情况下,通过一次前向传递输出任务特定参数的分布。VERSA用前向传递通过推理网络替代了测试时的优化过程,从而摊销了推理的成本,并在训练过程中消除了对二阶导数的需求。3) 我们在基准数据集上评估了VERSA,该方法在这些数据集上取得了新的最先进结果,能够处理任意数量的样本,并且对于分类任务,在训练和测试时都能处理任意数量的类别。随后,我们通过一项具有挑战性的少样本ShapeNet视图重建任务展示了该方法的强大性能。