17 天前

基于任务特定适配器的跨域少样本学习

Wei-Hong Li, Xialei Liu, Hakan Bilen
基于任务特定适配器的跨域少样本学习
摘要

本文研究了跨域小样本分类问题,旨在仅利用少量标注样本,从先前未见的类别与领域中学习分类器。近年来的方法通常通过引入与任务无关(task-agnostic)和与任务相关(task-specific)的权重来参数化小样本分类器:前者在大规模训练集上预先学习,而后者则通过一个辅助网络,基于少量支持集动态预测。本文聚焦于对后者——即任务相关权重的估计,并提出一种新方法:直接在小规模支持集上从零开始学习任务相关权重,而非采用动态估计的方式。通过系统的分析,我们发现,将任务相关权重以矩阵形式的参数化适配器(parametric adapters)进行建模,并将其残差连接(residual connections)引入骨干网络的多个中间层,能够显著提升当前最先进模型在Meta-Dataset基准上的性能,且仅带来微小的额外计算开销。