要約
現代の機械翻訳は大規模な並行コーパスに依存してきましたが、最近の研究では単一言語コーパスのみからニューラル機械翻訳（NMT）システムを学習させることが可能となりました（Artetxeら, 2018c; Lampleら, 2018）。このアプローチには低リソース環境での潜在的な利点がありますが、既存のシステムは監督学習に基づくシステムに比べて大幅に遅れており、実用的な魅力が制限されています。本論文では、監督学習に基づくシステムとのギャップを大幅に縮めるためのフレーズベースの統計的機械翻訳（SMT）に基づく代替アプローチを提案します。当手法はSMTのモジュール型アーキテクチャを活用しており、まず単一言語コーパスからクロスリンガル埋め込みマッピングを通じてフレーズテーブルを誘導し、それをn-gram言語モデルと組み合わせ、非監督型MERT変種を通じてハイパーパラメータを微調整します。さらに、反復的なバックトランスレーションにより結果が更に向上し、例えばWMT 2014英語-ドイツ語および英語-フランス語でそれぞれ14.08および26.22 BLEUポイントを達成しました。これは以前の非監督型システムに対して7-10 BLEUポイント以上の改善であり、監督学習に基づくSMT（Europarlで訓練されたMoses）とのギャップを2-5 BLEUポイントまで縮めています。当実装はhttps://github.com/artetxem/monosesで利用可能です。