HyperAIHyperAI

Command Palette

Search for a command to run...

基于全注意力机制的信息检索器

Alvaro H. C. Correia Jorge L. M. Silva Thiago de C. Martins Fabio G. Cozman

摘要

循环神经网络目前在自然语言处理领域处于领先地位,因为它们能够构建丰富的上下文表示并处理任意长度的文本。然而,最近关于注意力机制的发展赋予了前馈网络类似的能力,从而由于可并行操作数量的增加而实现了更快的计算。我们在问答领域探索了这种新型架构,并提出了一种称为全注意力信息检索器(Fully Attention Based Information Retriever, FABIR)的新方法。我们展示了FABIR在斯坦福问答数据集(Stanford Question Answering Dataset, SQuAD)中取得了具有竞争力的结果,同时其参数更少且在学习和推理过程中比竞争对手的方法更快。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于全注意力机制的信息检索器 | 论文 | HyperAI超神经