2 个月前

用于一次性学习的匹配网络

Oriol Vinyals; Charles Blundell; Timothy Lillicrap; Koray Kavukcuoglu; Daan Wierstra
用于一次性学习的匹配网络
摘要

从少量样本中学习仍然是机器学习领域的一个关键挑战。尽管在视觉和语言等重要领域取得了显著进展,但标准的监督式深度学习范式仍未提供一个令人满意的解决方案,以实现从少量数据中快速学习新概念。在这项工作中,我们借鉴了基于深度神经特征的度量学习以及最近将外部记忆与神经网络结合的技术。我们的框架学会了将一小批带有标签的支持集和一个未标记的示例映射到其标签,从而消除了为了适应新类别而进行微调的需要。随后,我们在视觉(使用Omniglot、ImageNet)和语言任务上定义了一次性学习问题。与竞争方法相比,我们的算法将ImageNet上的单次识别准确率从87.6%提高到93.2%,将Omniglot上的单次识别准确率从88.0%提高到93.8%。此外,我们还通过引入Penn Treebank上的单次任务来证明同一模型在语言建模中的实用性。