意味解析器の学習：潜在的な構造的アライメントと抽象プログラムを用いたdenotationからの学習

意味解析（Semantic parsing）は、自然言語の発話を機械が解釈可能な意味表現（すなわち、現実世界の環境に対して実行した際に正しい意味（denotation）を生成するプログラム）に写像することを目的としている。弱教師あり意味解析モデルは、プログラムを潜在変数（latent）として扱い、発話とその意味のペアに基づいて学習される。このタスクは、プログラムの探索空間が非常に大きく、誤った（spurious）プログラムが正解を導くが、未観測の例には一般化できないという点で困難である。本研究の目的は、解析器に帰納的バイアス（inductive bias）を導入し、誤ったプログラムと正しいプログラムを区別できるようにすることである。我々は、正しいプログラムは質問との整合性を保つ際に特定の構造的制約（structural constraints）を満たす可能性が高いという直感に着目し、アライメント（alignment）を構造的潜在変数としてモデル化することを提案する。潜在アライメントフレームワークの計算可能性を確保するため、解析タスクを（1）部分的な「抽象プログラム（abstract program）」を予測する、および（2）微分動的プログラミング（differential dynamic programming）を用いて構造的アライメントをモデル化しながらそのプログラムを精緻化する、という二段階に分解する。このアプローチにより、WIKITABLEQUESTIONSおよびWIKISQLデータセットにおいて、最新の性能を達成した。標準的なアテンションベースラインと比較して、提案する構造的アライメント機構が著しく有効であることが確認された。