2 个月前

通过集合到集合函数的嵌入适应实现少样本学习

Han-Jia Ye; Hexiang Hu; De-Chuan Zhan; Fei Sha
通过集合到集合函数的嵌入适应实现少样本学习
摘要

在视觉识别中,有限数据下的学习是一个关键挑战。许多少样本学习方法通过从已见类别中学习实例嵌入函数来应对这一挑战,并将该函数应用于未见类别中的实例,这些实例仅有少量标签。这种迁移学习方式是任务无关的:嵌入函数并不是针对未见类别进行最优区分性学习的,而是在这些类别之间进行区分以完成目标任务。本文提出了一种新的方法,通过集合到集合(set-to-set)函数将实例嵌入适应于目标分类任务,从而生成特定于任务且具有区分性的嵌入。我们对各种集合到集合函数的具体实现进行了实证研究,并观察到Transformer是最有效的——因为它天然满足了我们期望模型的关键属性。我们将此模型称为FEAT(基于Transformer的少样本嵌入适应),并在标准的少样本分类基准以及四个扩展的少样本学习场景中对其进行了验证,这些场景包括跨域、转导式、广义少样本学习和低样本学习等重要应用案例。实验结果表明,FEAT在基线模型及先前方法上均取得了一致的性能提升,并在两个基准测试中建立了新的最先进结果。