HyperAIHyperAI

Command Palette

Search for a command to run...

SDNet: コンテクストを考慮した注意基盤の深層ネットワークによる会話型質問応答

Chenguang Zhu¹, Michael Zeng¹, Xuedong Huang¹

概要

対話型質問応答(Conversational Question Answering: CQA)は、対話の文脈を理解する必要がある新しいQAタスクです。伝統的な単回転機械読解(Machine Reading Comprehension: MRC)タスクとは異なり、CQAでは文章理解、共参照解消、および文脈理解が含まれます。本論文では、文脈を伝統的なMRCモデルに融合させるための革新的な文脈化された注意メカニズムに基づく深層ニューラルネットワークであるSDNetを提案します。当該モデルは、相互注意と自己注意の両方を活用して対話の文脈を理解し、文章から関連情報を抽出します。さらに、最新のBERT文脈モデルを統合する新規手法を示しています。経験的結果は、当該モデルの有効性を示しており、CoQAリーダーボードで新たな最先端の結果を達成し、従来の最良モデルよりもF1スコアで1.6%向上しています。アンサンブルモデルにより、さらにF1スコアが2.7%向上しました。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています