3 个月前

基于DG-SpanBERT的高效长距离关系抽取

Jun Chen, Robert Hoehndorf, Mohamed Elhoseiny, Xiangliang Zhang
基于DG-SpanBERT的高效长距离关系抽取
摘要

在自然语言处理领域,关系抽取旨在理性理解非结构化文本。本文提出一种基于SpanBERT的新型图卷积网络模型(DG-SpanBERT),该模型利用预训练语言模型SpanBERT从原始句子中提取语义特征,并结合图卷积网络(GCN)对潜在特征进行聚合。所提出的DG-SpanBERT模型继承了SpanBERT在大规模语料库上学习丰富词汇特征的优势,同时由于在依存句法树上引入图卷积网络,具备捕捉实体间长距离依赖关系的能力。实验结果表明,该模型在性能上优于现有的基于依存关系和基于序列的各类模型,并在TACRED数据集上达到了当前最优(state-of-the-art)水平。

基于DG-SpanBERT的高效长距离关系抽取 | 论文 | HyperAI超神经