
要約
最近提案された質問応答(QA)のためのニューラルネットワークモデルは、主に文章と質問の関係を捉えることに焦点を当てています。しかし、複数の文に分散する関連事実を結びつける能力が低く、これはより深い理解を達成するために重要であり、複数文の推論や共参照解消などのタスクで必要不可欠です。また、これらのモデルは質問と回答タイプに明示的に焦点を当てる機能が不足しており、これらはしばしばQAにおいて重要な役割を果たします。本稿では、新しいエンドツーエンドの質問指向多要素注意ネットワークを提案します。テンソルベースの変換を使用した多要素注意エンコーディングにより、関連事実が複数の文中にある場合でも意味のある情報を集約することができます。さらに、回答タイプを暗黙的に推論するために、質問内の重要な単語に基づいて質問ベクトルをエンコードする最大注意質問集約メカニズムも提案します。予測時には、最初のwh-単語とその直後に続く単語のシーケンスレベルでのエンコーディングを追加的な質問タイプ情報源として取り入れます。提案したモデルは、NewsQA, TriviaQA, およびSearchQAという3つの大規模な挑戦的なQAデータセットにおいて、従来の最先端結果よりも大幅な改善を達成しています。