11 天前

通过辅助监督任务提升编码器以实现表格到文本的生成

{Dayong Hu, Yinliang Yue, Can Ma, Liang Li}
通过辅助监督任务提升编码器以实现表格到文本的生成
摘要

表格到文本生成旨在自动生成自然语言文本,帮助用户便捷地获取表格中的关键信息。尽管现有的神经网络模型在表格到文本生成任务上已取得显著进展,但仍存在一些被忽视的问题。以往的方法无法基于实体(如球员或球队)的表现及其之间的关系推导出事实性结论。为解决这一问题,我们首先从输入表格构建实体图谱,并引入一个推理模块在图谱上执行推理。此外,不同维度的记录之间存在多种关系(如数值大小关系和重要性关系),这些关系可能有助于提升数据到文本的生成质量。然而,传统的编码器难以有效捕捉这些复杂关系。为此,我们提出引入两个辅助任务——数值排序(Number Ranking, NR)和重要性排序(Importance Ranking, IR),以监督编码器学习并建模这些差异化的语义关系。在ROTOWIRE和RW-FG数据集上的实验结果表明,所提方法不仅具备良好的泛化能力,且在多个评价指标上优于先前方法,包括BLEU、内容选择(Content Selection)和内容排序(Content Ordering)。

通过辅助监督任务提升编码器以实现表格到文本的生成 | 最新论文 | HyperAI超神经