HyperAIHyperAI

Command Palette

Search for a command to run...

SDNet : Réseau profond basé sur l'attention contextualisée pour le questionnement conversationnel

Chenguang Zhu¹, Michael Zeng¹, Xuedong Huang¹

Résumé

La réponse aux questions conversationnelles (CQA) est une nouvelle tâche de Q&R qui nécessite la compréhension du contexte dialogique. Contrairement aux tâches traditionnelles de compréhension de lecture par machine (MRC) à tour unique, le CQA englobe la compréhension des passages, la résolution de co-référence et la compréhension contextuelle. Dans cet article, nous proposons un réseau neuronal profond innovant basé sur l'attention contextualisée, appelé SDNet, pour intégrer le contexte aux modèles MRC traditionnels. Notre modèle utilise à la fois l'inter-attention et l'auto-attention pour comprendre le contexte conversationnel et extraire les informations pertinentes du passage. De plus, nous présentons une méthode novatrice pour intégrer le dernier modèle contextualisé BERT. Les résultats empiriques montrent l'efficacité de notre modèle, qui établit un nouveau record d'état de l'art dans le classement CoQA, surpassant le meilleur modèle précédent de 1,6 % en F1. Notre modèle combiné améliore encore davantage ce résultat avec une augmentation de 2,7 % en F1.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
SDNet : Réseau profond basé sur l'attention contextualisée pour le questionnement conversationnel | Articles | HyperAI