2 个月前

自批判推理在鲁棒性视觉问答中的应用

Jialin Wu; Raymond J. Mooney
自批判推理在鲁棒性视觉问答中的应用
摘要

视觉问答(VQA)深度学习系统由于强烈的语言先验,往往捕捉训练数据中的表面统计相关性,导致在测试数据中泛化能力较差,特别是当测试数据的问题-答案(QA)分布与训练数据显著不同的情况下。为了解决这一问题,我们引入了一种自批评训练目标,确保正确答案的视觉解释比其他竞争性答案候选更能匹配最具影响力的图像区域。这些具影响力的区域要么通过人类提供的视觉/文本解释确定,要么从问题和答案中的重要词汇自动识别。我们在VQA泛化任务上使用VQA-CP数据集评估了我们的方法,取得了新的最先进水平,即使用文本解释时达到49.5%,使用自动标注区域时达到48.5%。