NeSyCoCo：構成的汎化を実現するためのニューロ・シンボリック・コンセプトコンポーザー

構成的汎化（compositional generalization）は、人工知能エージェントが複雑な視覚言語推論タスクを解決する上で不可欠である。神経記号的手法（neuro-symbolic approaches）は、構成的構造を捉える可能性を示しているが、以下の重要な課題に直面している：(a) 適応性を制限する事前定義された述語（predicates）に依存する点、(b) データの原始的な入力から述語を抽出することが困難な点、および (c) 基本的な概念を組み合わせる際に微分不可能な演算を使用する点。これらの課題に対処するため、本研究では大規模言語モデル（LLMs）を活用して記号的表現を生成し、それを微分可能な神経計算にマッピングする神経記号枠組み「NeSyCoCo」を提案する。NeSyCoCoは以下の3つの革新を導入している：(a) 自然言語入力を依存構造（dependency structures）で拡張し、記号的表現との整合性を高める点、(b) 分散表現（distributed word representations）を用いて、多様かつ言語学的に根拠を持つ論理的述語を神経モジュールと結びつける点、および (c) 正規化された述語スコアのソフトな合成（soft composition）を用いて、記号的推論と微分可能な推論を整合させる点。本フレームワークは、構成的汎化ベンチマークであるReaSCANおよびCLEVR-CoGenTにおいて最先端の性能を達成し、CLEVR-SYNベンチマークにおいても新規概念に対して堅牢な性能を示した。