领域对抗神经网络训练

我们介绍了一种新的领域适应表示学习方法，该方法在训练数据和测试数据来自相似但不同的分布时适用。我们的方法直接借鉴了领域适应理论的建议，即为了实现有效的领域迁移，预测必须基于无法区分源域（训练）和目标域（测试）特征来进行。该方法在神经网络架构中实现了这一理念，这些架构使用来自源域的标记数据和来自目标域的未标记数据进行训练（无需目标域的标记数据）。随着训练的进行，该方法促进了以下两类特征的出现：(i) 对源域主要学习任务具有判别性的特征；(ii) 对于领域之间的偏移不具判别性的特征。我们展示了这种适应行为可以通过在几乎任何前馈模型中添加几个标准层和一个新的梯度反转层来实现。增强后的架构可以使用标准反向传播和随机梯度下降进行训练，因此可以轻松地利用任何深度学习软件包实现。我们在两个不同的分类问题上验证了该方法的成功：文档情感分析和图像分类，在标准基准测试中达到了最先进的领域适应性能。此外，我们还在人员再识别应用中的描述符学习任务上验证了该方法的有效性。