コンテキスト意識型シーケンス・トゥ・シーケンスモデルにおける条件付けの改善

ニューラル系列から系列へのモデルは、単一の入力系列を単一の出力系列に写像することができる問題に於いて、すでに確立された手法である。本研究では、要約的質問応答や文書レベルの翻訳など、短いクエリと長いコンテキストの両方に条件づけられた生成タスクに注目する。標準的な系列から系列アプローチを改良し、クエリとコンテキストの両方をより効果的に活用するため、クエリとコンテキストの注目機構を統合する条件付けメカニズムを拡張する。さらに、提案モデルに適した簡潔かつ効率的なデータ拡張手法も導入する。3つの異なるタスクにおける実験結果から、両方の改良が一貫した性能向上をもたらすことが示された。