11 天前

基于图-序列迭代推理的AMR解析

Deng Cai, Wai Lam
基于图-序列迭代推理的AMR解析
摘要

我们提出一种全新的端到端模型,将AMR(抽象 meaning representation)解析视为对输入序列和逐步构建的图结构进行一系列双重决策的过程。在每个时间步,我们的模型执行多轮注意力机制、推理与组合操作,旨在回答两个核心问题:(1)从输入序列中抽象出哪一部分内容;(2)在输出图结构中的何处构建新的概念。我们证明,这两个问题的答案之间存在相互因果关系。为此,我们设计了一种基于迭代推理的模型,能够从两个视角均获得更优的决策结果,从而显著提升解析准确率。实验结果表明,我们的方法在Smatch指标上大幅超越此前所有报道的成绩。尤为突出的是,在不依赖任何大规模预训练语言模型(如BERT)的情况下,我们的模型已超越此前基于BERT的最先进方法;在引入BERT辅助后,我们在LDC2017T10(AMR 2.0)数据集上达到80.2%的Smatch得分,在LDC2014T12(AMR 1.0)数据集上达到75.4%的Smatch得分,进一步刷新了当前最优水平。

基于图-序列迭代推理的AMR解析 | 最新论文 | HyperAI超神经