16 天前

基于跨度注意力的成分句法分析性能提升

Yuanhe Tian, Yan Song, Fei Xia, Tong Zhang
基于跨度注意力的成分句法分析性能提升
摘要

句法成分分析(Constituency Parsing)是自然语言理解中的基础且关键任务,其中对上下文信息的有效表征能够显著提升该任务的性能。N-gram作为传统上用于描述上下文信息的特征类型,在众多自然语言处理任务中已被证明具有实用性。因此,若能对N-gram信息进行恰当建模,其同样有望为句法成分分析带来收益。本文提出一种基于跨度注意力(span attention)的神经网络图表式句法成分分析方法,以有效利用N-gram信息。考虑到当前基于Transformer编码器的图表式解析器通过减去跨度两端隐藏状态来表征跨度,这一方式在处理长跨度时容易造成信息损失,本文通过根据N-gram在解析过程中的贡献程度对其进行加权,将N-gram信息融入跨度表征中。此外,我们进一步提出类别化跨度注意力(categorical span attention),对不同长度类别内的N-gram进行差异化加权,从而更有效地支持长句的句法分析。在三个广泛使用的基准数据集上的实验结果表明,所提方法在阿拉伯语、中文和英语的句法成分分析任务中均表现出色,且在所有数据集上均达到了当前最优(state-of-the-art)性能。