7 天前

基于序列到序列的对话状态追踪

Yue Feng, Yang Wang, Hang Li
基于序列到序列的对话状态追踪
摘要

本文研究任务导向对话系统中的对话状态跟踪(Dialogue State Tracking, DST)问题。尽管近年来取得了显著进展,但构建一个高效且准确的DST模块仍是极具挑战性的任务。本文提出一种新的对话状态跟踪方法,称为Seq2Seq-DU,该方法将DST建模为一个序列到序列(sequence-to-sequence)问题。Seq2Seq-DU采用两个基于BERT的编码器,分别对对话中的话语(utterances)和对话模式(schema)描述进行编码;引入一个注意力机制模块,用于计算话语嵌入与模式嵌入之间的注意力关系;并通过一个解码器生成指针,以表示当前对话状态。Seq2Seq-DU具有以下优势:能够联合建模对话意图(intents)、槽位(slots)及其对应的槽值(slot values);充分利用BERT提供的丰富话语与模式表示;有效处理类别型与非类别型槽位,以及未见的对话模式(unseen schemas)。此外,Seq2Seq-DU还可直接应用于对话系统的自然语言理解(Natural Language Understanding, NLU)模块中。在多个基准数据集(包括SGD、MultiWOZ 2.2、MultiWOZ 2.1、WOZ 2.0、DSTC2、M2M、SNIPS和ATIS)的不同实验设置下进行的大量实验结果表明,Seq2Seq-DU在各项指标上均优于现有方法,展现出卓越的性能。

基于序列到序列的对话状态追踪 | 最新论文 | HyperAI超神经