要約
多モーダル機械翻訳に関する以前の研究では、視覚情報が非常に特定の場合、例えば文章の文脈だけでは不十分な曖昧な単語が存在する場合にのみ必要であることが示されています。その結果、モデルはこの情報を無視する傾向があります。本研究では、画像を第2段階のデコーダーのみで使用する「翻訳と精緻化」アプローチを提案します。このアプローチは、良好な初稿翻訳を生成し、さらに（i）目標言語の文章文脈（左側および右側の文脈）をより適切に利用することと（ii）視覚的な文脈を利用することによって、その初稿翻訳を改善するために共同で訓練されます。このアプローチは最先端の結果をもたらします。また、ソース言語における誤った単語や欠落した単語から回復する能力があることも示しています。