SCoRe：会話型意味解析における文脈表現のための事前学習

会話型意味解析（Conversational Semantic Parsing: CSP）とは、構造化されたオントロジー（例：データベース、知識ベース）に対して実行可能な形式言語（例：SQL、SPARQL）に自然言語クエリの連続を変換するタスクである。このタスクを達成するためには、非構造化の自然言語発話と構造化されたオントロジーとの関係をモデル化するとともに、対話の複数ターンにわたる動的性を表現する必要がある。事前学習された言語モデル（LM）は、さまざまな自然言語処理タスクにおいて最先端の性能を示している。しかし、自由形式のテキスト上で言語モデリングを目的とした従来の事前学習LMは、文脈的な構造データへの自然言語参照を適切に表現する能力に限界がある。本研究では、対話の流れと構造的文脈との整合性を捉える表現を誘導することを目的として、CSPタスク向けに新しい事前学習アプローチ「SCORE」を提案する。SCOREを4つの異なるタスク（SPARC、COSQL、MWOZ、SQA）における強力なベースシステムと組み合わせることで、SCOREの広範な適用可能性を実証した。実験の結果、SCOREはすべてのベースシステムにおいて顕著な性能向上を達成し、そのうち3つのタスクで最先端の結果を記録した。本研究の実装コードおよびモデルチェックポイントは、匿名URLにて公開される予定である。