7 天前

领域与类别偏移下的模型再利用

Sanqing Qu, Tianpei Zou, Florian Roehrbein, Cewu Lu, Guang Chen, Dacheng Tao, Changjun Jiang
领域与类别偏移下的模型再利用
摘要

深度神经网络(DNNs)在面对领域偏移(domain shift)和类别偏移(category shift)时,往往表现不佳。如何对现有DNN模型进行再利用并适应目标任务,仍是当前一个重要的开放性问题。无监督域适应(Unsupervised Domain Adaptation, UDA)技术,尤其是近年来提出的无源域域适应(Source-free Domain Adaptation, SFDA),已成为应对该问题的有前景方案。然而,现有SFDA方法通常要求源域与目标域共享相同的标签空间,因此仅适用于传统的闭集设定(closed-set setting)。本文在此基础上更进一步,提出无源通用域适应(Source-free Universal Domain Adaptation, SF-UniDA)的新范式。其核心目标是在同时存在领域偏移和类别偏移的情况下,识别出属于“已知”类别的数据样本,同时拒绝那些“未知”类别的样本(即未在源域类别中出现的样本),且仅依赖于标准预训练源模型所提供的知识。为实现这一目标,本文提出一种创新的全局与局部聚类学习机制(Global and Local Clustering, GLC)。具体而言,我们设计了一种新颖的、自适应的一对多全局聚类算法,以有效区分目标域中的不同类别;同时引入局部k-近邻(k-NN)聚类策略,以缓解负迁移问题。我们在多个具有不同类别偏移场景的基准数据集上验证了GLC方法的优越性,涵盖部分集(partial-set)、开集(open-set)以及开-部分集(open-partial-set)域适应等多种情形。尤为突出的是,在最具挑战性的开-部分集域适应场景中,GLC在VisDA基准上的性能较UMAD方法提升了14.8%。相关代码已开源,地址为:https://github.com/ispc-lab/GLC。

领域与类别偏移下的模型再利用 | 最新论文 | HyperAI超神经