16 天前

通过利用上下文信息提升槽位填充性能

Amir Pouran Ben Veyseh, Franck Dernoncourt, Thien Huu Nguyen
通过利用上下文信息提升槽位填充性能
摘要

槽位填充(Slot Filling, SF)是口语理解(Spoken Language Understanding, SLU)中的一个子任务,旨在从给定的自然语言语句中提取语义成分。该任务通常被建模为序列标注问题。近年来的研究表明,上下文信息对于该任务至关重要。然而,现有模型对上下文信息的利用方式较为局限,例如仅依赖自注意力机制。这类方法难以区分上下文对词向量表示与词标签预测的不同影响。为解决这一问题,本文提出一种新方法,从两个不同层面融合上下文信息:一是表示层面,二是任务特定(即标签)层面。我们在三个基准数据集上进行了大量实验,结果表明所提模型在所有三个数据集上均取得了新的最优性能,显著提升了槽位填充任务的性能表现。

通过利用上下文信息提升槽位填充性能 | 最新论文 | HyperAI超神经