2ヶ月前
多様なスタイルを生成する読解モデル
Kyosuke Nishida; Itsumi Saito; Kosuke Nishida; Kazutoshi Shinoda; Atsushi Otsuka; Hisako Asano; Junji Tomita

要約
本研究は、テキスト的な証拠に基づいて質問に答える生成的読解(Generative Reading Comprehension: RC)と自然言語生成(Natural Language Generation: NLG)を扱っています。私たちは、質問応答のための多様なスタイルの抽象的要約モデルであるMasqueを提案します。提案されたモデルには2つの重要な特徴があります。第一に、既存のRCに関する多くの研究が提供された文章から回答範囲を抽出することに焦点を当てているのに対し、私たちのモデルは質問と複数の文章から要約を生成することに焦点を当てています。これにより、実世界アプリケーションで必要となる様々な回答スタイルをカバーすることができます。第二に、以前の研究では各回答スタイルに対して特定のモデルを構築する必要があったため、一般的なモデルを作成することが困難でした。しかし、私たちのアプローチは1つのモデル内で多様なスタイルの回答を学習することで、すべてのスタイルに対するNLG能力を向上させます。これにより、私たちのモデルは目標とするスタイルでの回答が可能になります。実験結果は、MS MARCO 2.1およびNarrativeQAにおけるQ&AタスクとQ&A + NLGタスクにおいて最先端の性能を達成していることを示しています。また、要約タスクでも優れた成果を得ています。これらの成功には、スタイル依存性を持たないNLG能力が目標とするスタイルへと転送されることが鍵となっています。