SDNet : Réseau profond basé sur l'attention contextualisée pour le questionnement conversationnel

La réponse aux questions conversationnelles (CQA) est une nouvelle tâche de Q&R qui nécessite la compréhension du contexte dialogique. Contrairement aux tâches traditionnelles de compréhension de lecture par machine (MRC) à tour unique, le CQA englobe la compréhension des passages, la résolution de co-référence et la compréhension contextuelle. Dans cet article, nous proposons un réseau neuronal profond innovant basé sur l'attention contextualisée, appelé SDNet, pour intégrer le contexte aux modèles MRC traditionnels. Notre modèle utilise à la fois l'inter-attention et l'auto-attention pour comprendre le contexte conversationnel et extraire les informations pertinentes du passage. De plus, nous présentons une méthode novatrice pour intégrer le dernier modèle contextualisé BERT. Les résultats empiriques montrent l'efficacité de notre modèle, qui établit un nouveau record d'état de l'art dans le classement CoQA, surpassant le meilleur modèle précédent de 1,6 % en F1. Notre modèle combiné améliore encore davantage ce résultat avec une augmentation de 2,7 % en F1.