
摘要
现代对话代理系统在训练过程中旨在模仿人类的交流方式。为了与用户建立情感联结,这些虚拟代理必须能够感知用户的情绪状态。近年来,Transformer模型已成为序列到序列学习的前沿技术,其通过使用话语-回应对中的词嵌入来训练编码器-解码器架构。本文提出一种情感感知的Transformer编码器,用于捕捉用户话语中的情感维度,从而生成类人化的共情回应。本文的主要贡献如下:1)设计了一个情感检测模块,基于输入话语在初始阶段识别用户的情绪状态;2)提出一种新型Transformer编码器,将词嵌入与情感嵌入进行融合并进行归一化处理,从而实现对输入话语语义与情感特征的联合建模;3)编码器与解码器堆叠采用Transformer-XL架构,该架构是当前语言建模领域的最先进方法。在基准数据集Facebook AI共情对话数据集上的实验结果表明,相较于现有方法,本模型生成的回应在BLEU-4指标上取得了更高得分,验证了其有效性。情感智能的虚拟代理已从理论走向现实,未来可预见的是,情感将作为重要模态被广泛融入所有人机交互界面之中。