16日前

Few-shot自然言語生成によるタスク指向型対話

Baolin Peng, Chenguang Zhu, Chunyuan Li, Xiujun Li, Jinchao Li, Michael Zeng, Jianfeng Gao
Few-shot自然言語生成によるタスク指向型対話
要約

タスク指向型対話システムにおける重要な構成要素として、自然言語生成(Natural Language Generation, NLG)モジュールは、意味表現形式で表された対話アクションを自然言語による応答に変換する。従来のテンプレートベースや統計的手法の成功は、しばしば豊富なラベル付きデータに依存しており、新規ドメインへの適用には現実的でない。したがって、実用的な状況において限られたラベル付きデータで良好な汎化性能を発揮できるようにするため、NLGシステムの設計が極めて重要である。こうした課題に対応するため、本研究では、タスク指向型対話システムにおける少サンプル学習(few-shot learning)設定を模擬する、最初のNLGベンチマーク「FewShotWoz」を提案する。さらに、大規模なラベル付きNLGコーパス上で事前学習することで制御可能な生成能力を獲得し、少量のドメイン固有のラベルを用いた微調整により新規ドメインに適応可能な「SC-GPT」モデルを開発した。FewShotWozおよび大規模なMulti-Domain-WOZデータセットにおける実験結果から、自動評価指標および人間評価の両面で、提案するSC-GPTが既存手法を顕著に上回ることが示された。

Few-shot自然言語生成によるタスク指向型対話 | 最新論文 | HyperAI超神経