3 个月前

基于图衰减注意力网络的知识图谱嵌入

{Rui Wang, Bicheng Li, Shengwei Hu, Min Zhang, Wenqian Du}
基于图衰减注意力网络的知识图谱嵌入
摘要

知识图谱蕴含着丰富的现实世界知识,能够为人工智能应用提供强有力的支持。在知识图谱补全任务中,已有大量进展,当前最先进的模型主要基于图卷积神经网络(Graph Convolutional Neural Networks)。这些模型能够自动提取特征,并结合图结构模型的特性,生成具有强大表达能力的特征嵌入。然而,现有方法在知识图谱的关系路径上赋予相同的权重,忽视了邻近节点所蕴含的丰富信息,导致三元组特征的挖掘不够充分。为此,本文提出一种新型表示方法——图衰减注意力网络(Graph Attenuated Attention Networks, GAATs),该方法引入衰减注意力机制,能够为不同关系路径分配不同的权重,并有效获取邻域信息。由此,实体与关系可在任意邻域中被学习。实验研究验证了基于衰减注意力机制模型的有效性,在两个基准数据集WN18RR和FB15k-237上,GAATs均显著优于现有最先进方法。

基于图衰减注意力网络的知识图谱嵌入 | 论文 | HyperAI超神经