2 个月前

动画图片至少值千言万语:多模态对话中基于GIF的回复选择

Xingyao Wang; David Jurgens
动画图片至少值千言万语:多模态对话中基于GIF的回复选择
摘要

在线对话不仅包含文字。越来越多地,基于图像的回应(如表情包和动态gif)在对话中作为文化上被认可且常常幽默的回应形式出现。然而,尽管自然语言处理(NLP)已经扩展到多模态模型,但会话对话系统主要仍集中在生成文本回复上。本文介绍了一个包含156万次文本-动态gif对话轮次的新数据集,并引入了一种新的多模态会话模型——Pepe the King Prawn,用于选择基于动态gif的回复。我们展示了该模型能够生成相关且高质量的动态gif回应,并通过一项针对多个模型对真实用户进行的大规模随机对照试验表明,我们的模型所生成的动态gif回应显著更受社区欢迎。