認知能力を可能にするアルゴリズムの追求は、機械学習において重要な部分を占めています。最近調査された多くの認知的なタスクに共通する特徴は、視覚的入力や文章的入力などの異なるデータモダリティを考慮することです。本論文では、これらの異なるデータモダリティ間の高次相関を学習する新しいかつ一般的に適用可能な注意メカニズムを提案します。我々は、高次相関が共同タスクの解決に必要な異なるデータモダリティ内の関連要素に対する適切な注意を効果的に誘導することを示します。さらに、我々の高次注意メカニズムの有効性を視覚的質問応答（Visual Question Answering: VQA）タスクで実証し、標準的なVQAデータセットにおいて最先端の性能を達成しました。