17 天前

通过建模潜在实体类型信息提升实体链接

Shuang Chen, Jinpeng Wang, Feng Jiang, Chin-Yew Lin
通过建模潜在实体类型信息提升实体链接
摘要

现有的最先进神经实体链接模型通常采用基于注意力机制的词袋上下文模型,并结合从词嵌入中预训练得到的实体嵌入,以评估主题层面的上下文兼容性。然而,这些模型忽略了提及项附近上下文中隐含的实体类型信息,导致模型经常将提及项错误地链接到类型不正确的实体。为解决这一问题,我们提出基于预训练的BERT模型,将隐含的实体类型信息注入到实体嵌入中。此外,我们在最先进的模型的局部上下文模型中引入了一种基于BERT的实体相似度评分,以更有效地捕捉隐含的实体类型信息。在标准基准数据集AIDA-CoNLL上的实验结果表明,我们的模型显著优于现有的最先进实体链接模型。详细的实验分析进一步证明,我们的模型能够纠正大多数由基线模型直接生成的类型错误。