2 个月前

将联合嵌入融入多任务学习的目标导向对话中

Firas Kassawat; Debanjan Chaudhuri; Jens Lehmann
将联合嵌入融入多任务学习的目标导向对话中
摘要

基于注意力机制的编码器-解码器神经网络模型在目标导向对话系统中最近展现出令人鼓舞的结果。然而,这些模型在推理过程中难以整合和利用状态知识,同时保持端到端的文本生成功能。鉴于此类模型可以从用户意图和知识图谱的集成中获益匪浅,本文提出了一种基于RNN的端到端编码器-解码器架构,该架构以知识图谱和语料库的联合嵌入作为输入进行训练。该模型在文本生成过程中还额外集成了用户意图,并通过多任务学习范式以及一种附加的正则化技术来惩罚生成错误实体作为输出。此外,该模型在推理阶段进一步结合了知识图谱实体查找,以确保生成的输出基于提供的本地知识图谱具有状态性。最终,我们使用BLEU分数对模型进行了评估,实证评估表明,所提出的架构可以提升任务导向对话系统的性能。

将联合嵌入融入多任务学习的目标导向对话中 | 最新论文 | HyperAI超神经