HyperAIHyperAI

Command Palette

Search for a command to run...

普遍注意:用于序列到序列预测的二维卷积神经网络

Maha Elbayad Laurent Besacier Jakob Verbeek

摘要

当前最先进的机器翻译系统基于编码器-解码器架构,首先对输入序列进行编码,然后根据输入编码生成输出序列。编码器和解码器通过注意力机制连接,该机制根据解码器状态重新组合源标记的固定编码。我们提出了一种替代方法,该方法依赖于一个跨越两个序列的二维卷积神经网络。我们网络的每一层都根据迄今为止生成的输出序列重新编码源标记。因此,类似注意力的特性在整个网络中普遍存在。我们的模型取得了优异的结果,超越了最先进的编码器-解码器系统,同时在概念上更为简单且参数更少。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供