手順的概念におけるマルチモーダルレシピの潜在的アライメント

我々は、新たに公開されたマルチモーダルQAデータセット「RecipeQA」における手順的推論に対処するための新規なアライメント機構を提案する。本モデルは、画像と手順文を含むレシピに関する読解問題を解くテキストクローズタスクを実行する。この問題を解決するために、注目（attention）ネットワークの力、クロスモーダル表現、および手順文と候補解答の間の潜在的アライメント空間を活用する。さらに、アライメント行列におけるマックスプーリング操作を改善するための制約付きマックスプーリングを導入し、モデル出力間の排他的制約を課す。評価結果から、ベースラインに対して19%の性能向上が確認された。