2 个月前

GQA:一个新的用于现实世界视觉推理和组合式问答的数据集

Drew A. Hudson; Christopher D. Manning
GQA:一个新的用于现实世界视觉推理和组合式问答的数据集
摘要

我们介绍了GQA,这是一个用于现实世界视觉推理和组合式问答的新数据集,旨在解决先前VQA(视觉问答)数据集的关键缺陷。我们开发了一个强大且稳健的问题生成引擎,该引擎利用场景图结构创建了2200万个多样化的推理问题,每个问题都附带一个表示其语义的功能程序。我们使用这些程序对答案分布进行严格控制,并提出了一种新的可调平滑技术以减轻问题偏差。随数据集一同发布的还有一系列新指标,用于评估一致性、基础性和合理性等基本质量。对基线模型以及最先进模型进行了广泛的分析,提供了不同问题类型和拓扑结构下的细粒度结果。尽管盲LSTM(长短期记忆网络)仅能达到42.1%的准确率,而强大的VQA模型则达到54.1%,但人类的表现最高可达89.3%,为新的研究探索提供了充足的机会。我们强烈希望GQA能为下一代具有更强鲁棒性、更高一致性和更深层次语义理解的图像和语言模型提供支持资源。