非監督付き系列対系列ASRの未対応音声とテキストを使用した手法

シーケンス・ツー・シーケンス自動音声認識（ASR）モデルは、高性能を達成するためには大量のデータが必要です。この理由から、最近ではこのようなモデルにおける非監督学習と半教師あり学習への関心が高まっています。本研究は、サイクル一貫性および関連技術を使用した半教師あり学習において顕著な改善が見られた最近の結果に基づいています。これらの技術は、ASRとテキスト・ツー・スピーチ（TTS）モデルを組み合わせることで、ペアリングされていない音声やテキストデータを活用できる訓練手順と損失関数を導き出します。特に、本研究では新しい半教師あり損失関数を提案しています。これはエンドツーエンド微分可能なASR→TTS損失とTTS→ASR損失を組み合わせたものです。この方法は、ペアリングされていない音声とテキストデータの両方を活用し、最近提案された関連技術よりも%WER（単語誤り率）において優れた性能を発揮します。私たちはWSJコーパスとLibriSpeechコーパスにおいてデータ量や音声・テキストモダリティの影響を詳細に分析し、一貫した改善が確認できることを示しています。実験の再現のために私たちのコードはESPnetで提供されています。