2 个月前

QA-GNN:结合语言模型和知识图谱进行问题解答的推理方法

Michihiro Yasunaga; Hongyu Ren; Antoine Bosselut; Percy Liang; Jure Leskovec
QA-GNN:结合语言模型和知识图谱进行问题解答的推理方法
摘要

利用预训练语言模型(LMs)和知识图谱(KGs)回答问题面临两个挑战:给定一个问答上下文(问题和答案选项),方法需要(i)从大规模的知识图谱中识别相关知识,以及(ii)在问答上下文和知识图谱之间进行联合推理。在这项工作中,我们提出了一种新的模型——QA-GNN,该模型通过两项关键创新解决了上述挑战:(i)相关性评分,即使用语言模型估计知识图谱节点相对于给定问答上下文的重要性;以及(ii)联合推理,即将问答上下文和知识图谱连接形成一个联合图,并通过图神经网络相互更新它们的表示。我们在常识领域(CommonsenseQA、OpenBookQA)和生物医学领域(MedQA-USMLE)的问答基准数据集上评估了我们的模型。实验结果表明,QA-GNN优于现有的语言模型和语言模型加知识图谱的组合模型,并且展示了可解释性和结构化推理的能力,例如正确处理问题中的否定。注释:- QA-GNN:Question Answering Graph Neural Network- CommonsenseQA:常识问答数据集- OpenBookQA:开放书本问答数据集- MedQA-USMLE:医学问答数据集,基于美国医师执照考试(United States Medical Licensing Examination, USMLE)- 图神经网络(Graph Neural Networks, GNNs):一种用于处理图结构数据的神经网络模型

QA-GNN:结合语言模型和知识图谱进行问题解答的推理方法 | 最新论文 | HyperAI超神经