要約
既存の視覚的推論データセット、例えばビジュアルクエスチョンアswering（VQA）は、質問、画像、または回答の分布に基づくバイアスにしばしば悩まされています。最近提案されたCLEVRデータセットはこれらの制限を解決し、詳細な推論を必要としますが、データセットは合成であり、類似した物体や文の構造が全体にわたって見られます。本稿では、新たな推論タスクであるビジュアルエンタイルメント（VE）を紹介します。このタスクは画像と文のペアから構成され、前提が自然言語の文ではなく画像によって定義されます。これは従来のテキストエンタイルメントタスクとは異なります。訓練されたVEモデルの目標は、画像がテキストを意味的に含意するかどうかを予測することです。このタスクを実現するために、スタンフォード自然言語推論コーパスとFlickr30kデータセットに基づいてSNLI-VEデータセットを構築しました。私たちは様々な既存のVQAベースラインモデルを評価し、VEタスクに対応するモデルである説明可能なビジュアルエンタイルメント（EVE）システムを開発しました。EVEは最大71%の精度を達成し、他のいくつかの最先端のVQAベースモデルよりも優れた性能を示しています。最後に、クロスモーダル注意可視化を通じてEVEの説明可能性を示しています。SNLI-VEデータセットは公開されており、https://github.com/necla-ml/SNLI-VE でアクセスできます。