8 天前

无需源域的域自适应:通过化身原型生成与自适应

Zhen Qiu, Yifan Zhang, Hongbin Lin, Shuaicheng Niu, Yanxia Liu, Qing Du, Mingkui Tan
无需源域的域自适应:通过化身原型生成与自适应
摘要

我们研究了一个实际的域适应任务,称为无源无监督域适应(source-free unsupervised domain adaptation, UDA)问题。在此任务中,由于数据隐私限制,无法访问源域数据,仅能获取一个预训练的源模型以及未标注的目标域数据。然而,这一任务极具挑战性,其核心难点在于:既缺乏源域数据,又无目标域真实标签,导致模型适应过程极为困难。为应对这一挑战,我们提出从源模型中挖掘隐含知识,并利用这些知识生成源域类别的虚拟原型(即每个源类别对应的代表性特征,称为“源域化身原型”),同时生成目标域的伪标签,以实现域间对齐。为此,我们提出了一种对比原型生成与适应(Contrastive Prototype Generation and Adaptation, CPGA)方法。具体而言,CPGA方法包含两个阶段:(1)原型生成阶段:通过分析源模型的分类边界信息,设计一个原型生成器,基于对比学习机制生成高质量的源域化身原型;(2)原型适应阶段:基于生成的源域原型与目标域伪标签,提出一种新的鲁棒对比原型适应策略,将每个伪标签化的目标样本逐步对齐至对应的目标源原型。在三个标准UDA基准数据集上的大量实验结果表明,所提出方法在域适应性能上具有显著有效性与优越性。

无需源域的域自适应:通过化身原型生成与自适应 | 最新论文 | HyperAI超神经