11日前

エンドツーエンド自然言語生成チャレンジ向けの注目強調型シーケンスツーセクエンス学習

{Qian Lin, Biao Zhang, Jinsong Su, Jing Yang}
要約

本論文では、エンドツーエンド(E2E)自然言語生成(NLG)チャレンジに使用したシステムについて述べる。このチャレンジでは、レストラン領域における音声対話システムを対象とした新たなデータセットが収集されており、語彙の豊かさと文法構造の多様性が高く、コンテンツ選択(content selection)が求められる特徴を持つ(Novikova他, 2017)。本課題の解決にあたり、我々はCAEncoderを強化したシーケンス・トゥ・シーケンス学習モデル(Zhang他, 2017)を採用し、入力語彙全体にわたって注意重みを均等に分散させるためのアテンション正則化項を提案した。特に、特定の設計やカスタマイズを施さない状態でも、非常に優れた性能を達成した。特に、ROUGE-Lスコアは0.7083を記録し、提出されたすべての主要システムの中で最高の結果を達成した。

エンドツーエンド自然言語生成チャレンジ向けの注目強調型シーケンスツーセクエンス学習 | 最新論文 | HyperAI超神経