7 天前

UMAD:面向领域与类别偏移的通用模型自适应

Jian Liang, Dapeng Hu, Jiashi Feng, Ran He
UMAD:面向领域与类别偏移的通用模型自适应
摘要

在无监督域适应(Unsupervised Domain Adaptation, UDA)中,学习如何拒绝目标域中未包含于源域类别中的未知样本,具有重要意义。目前存在两种典型的UDA场景:开放集(open-set)和开放部分集(open-partial-set)。其中,开放部分集场景假设源域中的部分类别在目标域中并不存在。然而,大多数现有方法仅针对某一特定UDA场景设计,在另一场景下性能显著下降。此外,这些方法通常需要在适应过程中使用带标签的源域数据,限制了其在数据隐私敏感场景中的应用。为解决上述问题,本文提出一种通用域适应框架——通用模型域适应(Universal Model ADaptation, UMAD),该框架无需访问源域数据,也无需预先知晓域间类别分布的变化,即可同时应对开放集与开放部分集两种UDA场景。具体而言,我们设计了一种结构精巧的双头分类器,用于学习一个源域模型,并将其迁移至目标域。在适应阶段,我们引入一种信息量丰富的一致性评分机制,以有效区分已知样本与未知样本。为进一步实现目标域中的双向适应,我们通过最大化局部互信息,将已知样本与源域分类器对齐;同时,采用熵正则化损失,促使未知样本远离源域分类边界。在开放集与开放部分集UDA场景下的大量实验表明,UMAD作为一种无需访问源数据的统一方法,其性能可与当前最先进的依赖源数据的方法相媲美,甚至在多数情况下表现更优。

UMAD:面向领域与类别偏移的通用模型自适应 | 最新论文 | HyperAI超神经