17 天前

基于隐式任务特定后验的PAC-Bayes元学习

Cuong Nguyen, Thanh-Toan Do, Gustavo Carneiro
基于隐式任务特定后验的PAC-Bayes元学习
摘要

我们提出了一种全新的、严格形式化的PAC-Bayes元学习算法,用于解决少样本学习问题。所提出的方法将PAC-Bayes框架从单任务设定扩展至元学习的多任务设定,从而能够对任意任务(包括未见过的任务)及样本上的误差提供上界。此外,我们提出了一种基于生成模型的方法,以更灵活、更具表现力的方式估计任务特定模型参数的后验分布,相较于传统假设中采用对角协方差矩阵的多元正态分布,具有更强的建模能力。实验结果表明,使用该元学习算法训练的模型不仅具备良好的准确性,而且具有优异的校准性能,在少样本分类(mini-ImageNet和tiered-ImageNet)以及回归任务(多模态任务分布回归)的基准测试中,均取得了当前最优的校准效果与分类性能。

基于隐式任务特定后验的PAC-Bayes元学习 | 最新论文 | HyperAI超神经