2 个月前

联合优化神经响应生成的多样性和相关性

Xiang Gao; Sungjin Lee; Yizhe Zhang; Chris Brockett; Michel Galley; Jianfeng Gao; Bill Dolan
联合优化神经响应生成的多样性和相关性
摘要

尽管最近的神经对话模型展现出巨大潜力,但它们生成的回复往往平淡无奇且缺乏个性。虽然已经探索了多种方法来多样化对话模型的输出,但这些改进通常会以降低相关性为代价。本文提出了一种SpaceFusion模型,通过利用新颖的正则化项,将序列到序列模型和自编码器模型的潜在空间进行融合,从而联合优化多样性和相关性。因此,我们的方法诱导出一个潜在空间,在该空间中,从预测响应向量的距离大致对应相关性,而方向则大致对应多样性。这一特性还使得潜在空间的可视化更加直观。自动评估和人工评估结果均表明,与强大的基线方法相比,所提出的模型在多样性和相关性方面带来了显著的改进。