HyperAIHyperAI

Command Palette

Search for a command to run...

Librispeech Transducer 模型中的内部语言模型先验修正

Albert Zeyer André Merboldt Wilfried Michel Ralf Schlüter Hermann Ney

摘要

我们在 Librispeech 数据集上提出了我们的转换器模型(transducer model)。我们研究了多种变体,通过浅层融合(shallow fusion)引入外部语言模型(LM),并减去一个估计的内部语言模型(internal LM)。这一方法在贝叶斯解释下具有理论依据:转换器模型的先验分布由估计的内部语言模型给出。通过减去内部语言模型,我们的方法相比传统的浅层融合实现了超过 14% 的相对性能提升。该转换器模型为非空白标签(non-blank labels)设置了独立的概率分布,这不仅便于与外部语言模型进行融合,也使得内部语言模型的估计更加简便。此外,我们特别处理了外部语言模型的句末标记(EOS)概率,将其合理地融入最后一个空白标签的概率中,进一步提升了模型性能。我们已公开所有代码与实验配置。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供