2 个月前

自适应后验学习:基于惊喜的记忆模块实现少样本学习

Tiago Ramalho; Marta Garnelo
自适应后验学习:基于惊喜的记忆模块实现少样本学习
摘要

从少量观察中快速泛化是智能系统的关键能力。本文介绍了一种名为APL(Approximate Probability Learning)的算法,该算法通过记住遇到过的最令人惊讶的观察来近似概率分布。这些过去的观察数据从外部存储模块中被召回,并由一个解码器网络进行处理,该网络可以结合来自不同存储槽的信息以实现超出直接回忆的泛化能力。我们展示了该算法在少样本分类基准测试中的表现可与现有最佳基线方法相媲美,同时具有较小的内存占用。此外,其内存压缩功能使其能够扩展到数千个未知标签。最后,我们引入了一个比直接分类更具挑战性的元学习推理任务。在这种设置下,APL能够通过演绎推理在每个类别少于一个示例的情况下实现泛化。

自适应后验学习:基于惊喜的记忆模块实现少样本学习 | 最新论文 | HyperAI超神经