HyperAIHyperAI

Command Palette

Search for a command to run...

質問に焦点を当てた多要素注意ネットワークによる質問応答

Souvik Kundu Hwee Tou Ng

概要

最近提案された質問応答(QA)のためのニューラルネットワークモデルは、主に文章と質問の関係を捉えることに焦点を当てています。しかし、複数の文に分散する関連事実を結びつける能力が低く、これはより深い理解を達成するために重要であり、複数文の推論や共参照解消などのタスクで必要不可欠です。また、これらのモデルは質問と回答タイプに明示的に焦点を当てる機能が不足しており、これらはしばしばQAにおいて重要な役割を果たします。本稿では、新しいエンドツーエンドの質問指向多要素注意ネットワークを提案します。テンソルベースの変換を使用した多要素注意エンコーディングにより、関連事実が複数の文中にある場合でも意味のある情報を集約することができます。さらに、回答タイプを暗黙的に推論するために、質問内の重要な単語に基づいて質問ベクトルをエンコードする最大注意質問集約メカニズムも提案します。予測時には、最初のwh-単語とその直後に続く単語のシーケンスレベルでのエンコーディングを追加的な質問タイプ情報源として取り入れます。提案したモデルは、NewsQA, TriviaQA, およびSearchQAという3つの大規模な挑戦的なQAデータセットにおいて、従来の最先端結果よりも大幅な改善を達成しています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています