2 个月前
多任务分类学习中的分布匹配:面部及其他的大规模研究
Kollias, Dimitrios ; Sharmanska, Viktoriia ; Zafeiriou, Stefanos

摘要
多任务学习(MTL)是一种框架,其中多个相关任务联合学习并从共享表示空间或参数传递中受益。为了提供足够的学习支持,现代MTL通常使用具有完全或足够大重叠的标注数据,即每个输入样本都为所有或大多数任务进行了标注。然而,在许多实际应用中,收集此类标注数据是不可行的,并且无法从针对单个任务可用的数据集中获益。在本研究中,我们对这种设置提出了挑战,并展示了即使在分类任务之间存在很少或无重叠的标注数据,或者各任务的标注数据量差异很大时,MTL仍然可以取得成功。我们探讨了基于任务相关性的协同标注和协同训练方法,并提出了一种新颖的方法,通过分布匹配实现任务之间的知识交换。为了证明我们方法的普遍适用性,我们在情感计算、人脸识别、物种识别和购物物品分类等领域使用九个数据集进行了多样化的案例研究。我们的大规模情感任务研究涵盖了基本表情识别和面部动作单元检测,表明我们的方法与网络无关,并且相比现有技术在这两个任务以及所有研究数据库中均带来了显著的性能提升。在所有案例研究中,我们展示了通过任务相关性进行协同训练的优势,并防止了负迁移(即多任务模型的性能劣于至少一个单任务模型的情况)。