13 天前

基于记忆学习的蕴含与话语关系建模以实现人格一致的对话

Ruijun Chen, Jin Wang, Liang-Chih Yu, Xuejie Zhang
基于记忆学习的蕴含与话语关系建模以实现人格一致的对话
摘要

在对话系统中,保持对话的连贯性与一致性尤为重要。现有研究通过设计复杂的网络结构,有意识地学习对话双方的角色特征(persona),从而提升了对话系统的性能。然而,这一方法存在一个显著问题:需要大量带有标注的个性化语料数据。此外,这些模型通常仅关注下一步话语的预测以生成回复,而忽视了整个对话过程中的语篇连贯性。为解决上述问题,本文提出一种用于角色一致性对话任务的新型记忆学习方法,旨在同时建模蕴含关系(entailment)与语篇关系(discourse relations)。具体而言,本文利用自然语言推理数据集中蕴含文本对,通过前提到假设的生成任务,学习隐式蕴含关系,并将其作为外部记忆。同时,设计了一种结构相似的内部记忆模块,用于捕捉对话中的语篇信息。通过在两个记忆空间之间施加正交性约束,确保隐式蕴含关系与具体对话内容相互独立,从而避免蕴含知识被对话上下文所干扰。两种记忆机制协同工作,共同为生成过程提供蕴含关系与语篇关系的联合表示,从而实现对角色一致性与语篇连贯性的深层理解。在两个大规模公开数据集——PersonaChat与DSTC7-AVSD上的实验结果表明,所提出的方法具有显著有效性。自动评估与人工评估均显示,该模型在角色一致性与回复连贯性方面均优于多个强基线模型。相关源代码已开源,地址为:https://github.com/Chenrj233/LMEDR。