2 个月前

自监督原型迁移学习在少样本分类中的应用

Carlos Medina; Arnout Devos; Matthias Grossglauser
自监督原型迁移学习在少样本分类中的应用
摘要

大多数少样本学习方法在(预)训练过程中依赖于目标任务领域的昂贵标注数据。最近,无监督元学习方法通过降低少样本分类性能来替代对标注数据的需求。与此同时,在存在实际领域偏移的情况下,常见的迁移学习已被证明优于有监督元学习。基于这些见解以及自监督学习的最新进展,我们提出了一种迁移学习方法,该方法构建了一个度量嵌入,将未标记的原型样本及其增强版本紧密聚类在一起。这种预训练的嵌入为少样本分类提供了一个起点,通过总结类别聚类并进行微调来实现。我们展示了我们的自监督原型迁移学习方法ProtoTransfer在mini-ImageNet数据集的少样本任务中超越了最先进的无监督元学习方法。在具有领域偏移的少样本实验中,我们的方法甚至可以与有监督方法相媲美,但所需的标签数量却减少了几个数量级。

自监督原型迁移学习在少样本分类中的应用 | 最新论文 | HyperAI超神经