HyperAIHyperAI

Command Palette

Search for a command to run...

生成多段質問応答タスクの常識

Lisa Bauer Yicheng Wang Mohit Bansal

概要

読解質問応答(QA)タスクは最近人気を博していますが、多くの研究は事実確認型の抽出QAに焦点を当てています。本研究では、より困難な多段階生成タスク(NarrativeQA)に注目します。このタスクでは、モデルが文脈内の非連続的な情報の推論、収集、統合を行い、回答を生成することが求められます。このような多段階推論はしばしば暗黙の関係性の理解を必要とし、これは人間が外部の背景常識知識によって解決します。まず、多段階推論を行うためのマルチアテンション機構と、回答を統合するためのポインタジェネレータデコーダを使用した強力な生成基準モデルを提案します。このモデルは従来の生成モデルよりも大幅に優れ、現在の最良のスパン予測モデルと競争力があります。次に、ConceptNetから接地された多段階関係常識情報を選択するための新しいシステムを導入します。このシステムはポイントワイズ・ミューチュアル・インフォメーションと頻度に基づく評価関数を使用しています。最後に、選択的にゲート制御されたアテンション機構を使用して、文脈間の推論ギャップを埋めるために抽出された常識情報を効果的に利用します。これによりモデルの性能が大幅に向上し(ヒューマン評価でも確認)、このタスクにおける新たな最先端となることを確立しました。さらに、我々の背景知識強化手法が他の多段階推論データセットであるQAngaroo-WikiHopにおいても一部改善することを示し、その汎用性について有望な初期結果を得ています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています