Librispeech Transducer 模型中的内部语言模型先验修正

我们在 Librispeech 数据集上提出了我们的转换器模型（transducer model）。我们研究了多种变体，通过浅层融合（shallow fusion）引入外部语言模型（LM），并减去一个估计的内部语言模型（internal LM）。这一方法在贝叶斯解释下具有理论依据：转换器模型的先验分布由估计的内部语言模型给出。通过减去内部语言模型，我们的方法相比传统的浅层融合实现了超过 14% 的相对性能提升。该转换器模型为非空白标签（non-blank labels）设置了独立的概率分布，这不仅便于与外部语言模型进行融合，也使得内部语言模型的估计更加简便。此外，我们特别处理了外部语言模型的句末标记（EOS）概率，将其合理地融入最后一个空白标签的概率中，进一步提升了模型性能。我们已公开所有代码与实验配置。