HyperAIHyperAI

Command Palette

Search for a command to run...

基于帧级标准的轻量级换能器

Genshun Wan Mengzhi Wang Tingzhi Mao Hang Chen* Zhongfu Ye

摘要

基于序列级准则训练的转导器模型由于生成大规模概率矩阵而需要大量内存。我们提出了一种基于帧级准则的轻量级转导器模型,该模型利用CTC强制对齐算法的结果来确定每个帧的标签。然后,编码器输出可以在相应时间点与解码器输出结合,而不是像传统转导器那样将编码器输出的每个元素与解码器输出的每个元素相加。这显著降低了内存和计算需求。为了解决因标签中过多空白导致的分类不平衡问题,我们将空白和非空白的概率分离,并截断空白分类器对主网络的梯度。在AISHELL-1数据集上的实验表明,这种方法使轻量级转导器能够实现与传统转导器相似的结果。此外,我们使用了更丰富的信息来预测空白的概率,从而取得了优于传统转导器的效果。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供