RNN エンコーダー-デコーダーを使用した統計的機械翻訳のフレーズ表現学習

本論文では、新しいニューラルネットワークモデルであるRNNエンコーダー-デコーダーを提案します。このモデルは2つのリカレントニューラルネットワーク（RNN）から構成されています。一方のRNNはシンボル列を固定長のベクトル表現にエンコードし、他方のRNNはその表現を別のシンボル列にデコードします。提案されたモデルのエンコーダーとデコーダーは、ソースシーケンスが与えられた条件下でのターゲットシーケンスの条件付き確率を最大化するように共同で訓練されます。実験的に、既存の対数線形モデルにおいてRNNエンコーダー-デコーダーによって計算されたフレーズペアの条件付き確率を追加的な特徴として使用することで、統計的機械翻訳システムの性能が向上することが確認されました。定性的には、提案されたモデルが言語的フレーズの意味的および文法的に有意義な表現を学習することを示しています。