要約
通常、深層ネットワークモデルは学習時および未観測データに対する推論時において純粋に帰納的（inductive）である。そのため、こうしたモデルを予測に用いる場合、集団レベルにおけるオブジェクト（または概念）間の意味情報や潜在的な依存関係を適切に捉えられないことが知られている。さらに、特に大規模かつノイズが多い環境において、ドメイン知識や事前知識（prior modal knowledge）をバックプロパゲーションに適した形で明示的に定式化する方法は、まだ明確でない。本研究では、明示的な知識グラフを組み込んだエンドツーエンド型の視覚・言語モデルを提案する。また、非対応データ（out-of-distribution, OOD）のフィルタリングを実現する、暗黙的なネットワーク演算子を用いたインタラクティブなOOD層を導入した。この層は、外部知識ベースから導入されるノイズを効果的に除去することを目的としている。実際の応用では、複数の視覚・言語下流タスク、すなわち視覚質問応答（Visual Question Answering）、視覚推論（Visual Reasoning）、および異なるデータセットにおける画像・テキスト検索（Image-Text Retrieval）に本モデルを適用した。実験の結果、最先端の性能と同等の結果が得られる一方で、著しく少ないサンプル数および短い学習時間で実現可能であることが示された。