17 天前

DecAug:通过分解特征表示与语义增强实现分布外泛化

Haoyue Bai, Rui Sun, Lanqing Hong, Fengwei Zhou, Nanyang Ye, Han-Jia Ye, S.-H. Gary Chan, Zhenguo Li
DecAug:通过分解特征表示与语义增强实现分布外泛化
摘要

尽管深度学习在处理独立同分布(IID)数据方面展现出强大的能力,但在面对分布外(Out-of-Distribution, OoD)泛化时往往表现不佳,即测试数据来自与训练数据不同的分布。设计一种能够广泛适用于各类应用场景的通用OoD泛化框架极具挑战性,主要原因在于现实世界中普遍存在特征相关性漂移(correlation shift)和多样性漂移(diversity shift)。以往大多数方法仅能应对某一类特定的分布偏移,例如域间迁移或相关性外推问题。为解决这一局限,本文提出DecAug——一种新颖的解耦特征表示与语义增强方法,用于提升OoD泛化性能。DecAug通过将特征解耦为与类别相关和与上下文相关的两部分,实现对分布偏移的建模与抑制。其中,类别相关特征包含目标对象的因果性信息,而上下文相关特征则刻画了属性、风格、背景或场景等导致训练与测试数据分布差异的因素。该解耦过程通过正交化预测类别标签与上下文标签的损失函数对中间特征的梯度来实现。此外,本文进一步在上下文相关特征上引入基于梯度的增强策略,以提升所学习表示的鲁棒性。实验结果表明,DecAug在多个OoD数据集上均优于现有的先进方法,是极少数能够同时应对多种类型OoD泛化挑战的模型之一。

DecAug:通过分解特征表示与语义增强实现分布外泛化 | 最新论文 | HyperAI超神经