2ヶ月前

生成多段質問応答タスクの常識

Lisa Bauer; Yicheng Wang; Mohit Bansal
生成多段質問応答タスクの常識
要約

読解質問応答(QA)タスクは最近人気を博していますが、多くの研究は事実確認型の抽出QAに焦点を当てています。本研究では、より困難な多段階生成タスク(NarrativeQA)に注目します。このタスクでは、モデルが文脈内の非連続的な情報の推論、収集、統合を行い、回答を生成することが求められます。このような多段階推論はしばしば暗黙の関係性の理解を必要とし、これは人間が外部の背景常識知識によって解決します。まず、多段階推論を行うためのマルチアテンション機構と、回答を統合するためのポインタジェネレータデコーダを使用した強力な生成基準モデルを提案します。このモデルは従来の生成モデルよりも大幅に優れ、現在の最良のスパン予測モデルと競争力があります。次に、ConceptNetから接地された多段階関係常識情報を選択するための新しいシステムを導入します。このシステムはポイントワイズ・ミューチュアル・インフォメーションと頻度に基づく評価関数を使用しています。最後に、選択的にゲート制御されたアテンション機構を使用して、文脈間の推論ギャップを埋めるために抽出された常識情報を効果的に利用します。これによりモデルの性能が大幅に向上し(ヒューマン評価でも確認)、このタスクにおける新たな最先端となることを確立しました。さらに、我々の背景知識強化手法が他の多段階推論データセットであるQAngaroo-WikiHopにおいても一部改善することを示し、その汎用性について有望な初期結果を得ています。

生成多段質問応答タスクの常識 | 最新論文 | HyperAI超神経