11 天前

在抽象摘要生成中控制逐字复制的量

Kaiqiang Song, Bingqing Wang, Zhe Feng, Liu Ren, Fei Liu
在抽象摘要生成中控制逐字复制的量
摘要

摘要不得改变原文的含义。实现这一目标最有效的方法之一,是在保持文本抽象性的同时增加复制内容的量。人类编辑通常能够控制复制的程度,从而生成以抽取式为主的摘要,或以生成式为主的摘要,反之亦然。然而,目前尚不清楚现代神经网络抽象式摘要模型是否具备同样的灵活性,即能否仅从单一参考摘要中学习,生成具有不同程度复制行为的多种摘要假设。本文提出一种神经摘要模型,该模型通过学习单一人工摘要,能够生成从完全抽取式到高度生成式之间的广泛范围的摘要。我们将摘要任务建模为语言建模问题,并引入多种替代机制以生成不同的摘要假设。所提出的方法在神经摘要模型的训练与解码阶段均实现了对复制行为的可控性。通过大量实验,我们验证了该方法在控制原文逐字复制程度方面的显著作用,并在多个强基线模型上取得了具有竞争力的性能表现。进一步的分析揭示了一些有趣且非显而易见的发现。

在抽象摘要生成中控制逐字复制的量 | 最新论文 | HyperAI超神经