Command Palette

Search for a command to run...

4ヶ月前

SCoRe:会話型意味解析における文脈表現のための事前学習

{Ahmed Hassan Awadallah Christopher Meek Alex Polozov Rui Zhang Tao Yu}

SCoRe:会話型意味解析における文脈表現のための事前学習

要約

会話型意味解析(Conversational Semantic Parsing: CSP)とは、構造化されたオントロジー(例:データベース、知識ベース)に対して実行可能な形式言語(例:SQL、SPARQL)に自然言語クエリの連続を変換するタスクである。このタスクを達成するためには、非構造化の自然言語発話と構造化されたオントロジーとの関係をモデル化するとともに、対話の複数ターンにわたる動的性を表現する必要がある。事前学習された言語モデル(LM)は、さまざまな自然言語処理タスクにおいて最先端の性能を示している。しかし、自由形式のテキスト上で言語モデリングを目的とした従来の事前学習LMは、文脈的な構造データへの自然言語参照を適切に表現する能力に限界がある。本研究では、対話の流れと構造的文脈との整合性を捉える表現を誘導することを目的として、CSPタスク向けに新しい事前学習アプローチ「SCORE」を提案する。SCOREを4つの異なるタスク(SPARC、COSQL、MWOZ、SQA)における強力なベースシステムと組み合わせることで、SCOREの広範な適用可能性を実証した。実験の結果、SCOREはすべてのベースシステムにおいて顕著な性能向上を達成し、そのうち3つのタスクで最先端の結果を記録した。本研究の実装コードおよびモデルチェックポイントは、匿名URLにて公開される予定である。

ベンチマーク

ベンチマーク方法論指標
dialogue-state-tracking-on-cosqlRAT-SQL + SCoRe
interaction match accuracy: 21.2
question match accuracy: 51.6
text-to-sql-on-sparcRAT-SQL + SCoRe
interaction match accuracy: 38.1
question match accuracy: 62.4

AI で AI を構築

アイデアからローンチまで — 無料の AI 共同コーディング、すぐに使える環境、最適価格の GPU で AI 開発を加速。

AI 共同コーディング
すぐに使える GPU
最適価格
今すぐ始める

Hyper Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
SCoRe:会話型意味解析における文脈表現のための事前学習 | 論文 | HyperAI超神経