2 个月前

用于端到端语音识别的分段递归神经网络

Liang Lu; Lingpeng Kong; Chris Dyer; Noah A. Smith; Steve Renals
用于端到端语音识别的分段递归神经网络
摘要

我们研究了用于端到端声学建模的分段递归神经网络。该模型将分段条件随机场(CRF)与用于特征提取的递归神经网络(RNN)连接起来。与大多数先前基于CRF的声学模型相比,它不依赖外部系统来提供特征或分段边界。相反,该模型对所有可能的分段进行边缘化处理,特征从与分段CRF共同训练的RNN中提取。本质上,该模型是自包含的,可以进行端到端训练。在本文中,我们讨论了实际训练和解码问题以及在语音识别背景下加速训练的方法。我们在TIMIT数据集上进行了实验,首次解码达到了17.3%的音素错误率(PER),这是使用CRFs报告的最佳结果,尽管我们仅使用了零阶CRF且未使用任何语言模型。