HyperAIHyperAI

Command Palette

Search for a command to run...

沉思型读者:基于门控多跳注意力的推理

Yichen Gong; Samuel R. Bowman

摘要

为了回答机器阅读理解(MC)任务中的问题,模型需要建立问题与上下文之间的互动。为了解决单次通过模型无法反思和纠正其答案的问题,我们提出了沉思阅读器(Ruminating Reader)。沉思阅读器在双向注意力流模型(BiDAF)的基础上增加了第二次注意力传递和一种新颖的信息融合组件。我们提出了一种新的层结构,该结构构建了查询感知的上下文向量表示,并在BiDAF模型之上将编码表示与中间表示进行融合。我们展示了多跳注意力机制可以应用于双向注意力结构。在SQuAD数据集上的实验结果表明,沉思阅读器显著优于BiDAF基线模型,并且其性能与所有其他已发表的系统相当或超越。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供