HyperAIHyperAI

Command Palette

Search for a command to run...

用于情境化对话智能体的多模态上下文嵌入学习

Anonymous

摘要

情境化交互式多模态对话(SIMMC)2.0旨在构建能够处理复杂多模态输入的虚拟购物助手,即同时接收物体的视觉外观信息与用户的语言表达。该任务包含四个子任务:多模态消歧(MM-Disamb)、多模态指代消解(MM-Coref)、多模态对话状态追踪(MM-DST)以及响应检索与生成。尽管许多面向任务的对话系统通常分别处理各个子任务,我们提出了一种联合学习的多模态编码器-解码器架构,该架构融合视觉输入,并在单一模型中同步完成全部四项任务,从而提升整体效率。该方法在第十届对话系统技术挑战赛(DSTC10)中,凭借单一统一模型在MM-Coref和响应检索子任务中获得冠军,并在其余两个子任务中获得提名亚军,为多模态任务导向对话系统这一新兴任务设立了新的标杆。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供