エンドツーエンド微分可能証明における推論戦略の学習

深層学習モデルの解釈可能性、データ効率性、およびロバスト性を高める試みは、ルールベースシステムとのハイブリッド化によって一定の成功を収めている。たとえば、ニューラル定理証明器（Neural Theorem Provers: NTPs）がその一例である。これらの神経記号論的モデルは、バックプロパゲーションを用いてデータから表現を学習しつつ、予測に対する論理的説明を提供できる一方で、解釈可能なルールを導出することも可能である。しかし、これらのモデルは、目標を説明するためのすべての可能な証明経路を検討する必要があるため、計算量の面で制限を受け、大規模な応用には不適切である。本研究では、勾配に基づく最適化により最適なルール選択戦略を学習する、NTPの拡張である条件付き定理証明器（Conditional Theorem Provers: CTPs）を提案する。CTPsがスケーラブルであり、CLUTRRデータセットにおいて最先端の性能を達成することを示す。CLUTRRは、小さなグラフ上で推論を学習し、より大きなグラフ上で評価することで、ニューラルモデルの体系的汎化能力を検証するデータセットである。さらに、CTPsは他の神経記号論的モデルと比較して、標準的なベンチマークにおいてより優れたリンク予測性能を示すとともに、解釈可能性を維持している。本研究のすべてのソースコードおよびデータセットは、https://github.com/uclnlp/ctp にて公開されている。