18 天前

用于联合实体-关系抽取的密集跨模态交互建模

{Fang Liu, Zhiping Cai, Minghao Hu, Shan Zhao}
用于联合实体-关系抽取的密集跨模态交互建模
摘要

实体及其关系的联合抽取得益于命名实体与其关系信息之间的紧密交互。因此,如何有效建模这种跨模态交互关系,对最终性能具有关键影响。以往方法通常采用标签特征拼接等简单手段,在跨模态实例间进行粗粒度语义融合,但难以捕捉词元(token)空间与标签空间之间的细粒度相关性,导致交互能力不足。本文提出一种深度跨模态注意力网络(Deep Cross-Modal Attention Network, CMAN),用于联合实体与关系抽取。该网络通过深度堆叠多个注意力单元,充分建模词元-标签空间中的密集交互关系,其中设计了两种基础注意力单元,能够显式捕捉不同模态间的细粒度关联(如词元到词元、标签到词元之间的交互)。在CoNLL04数据集上的实验结果表明,本模型在实体识别任务上达到90.62%的F1值,在关系分类任务上达到72.97%的F1值,达到当前最优水平。在ADE数据集上,本模型在关系分类任务上的F1值较现有方法提升超过1.9%。大量消融分析进一步验证了所提方法的有效性。