Réseaux de Coattention Dynamiques pour la Réponse aux Questions

Plusieurs modèles d'apprentissage profond ont été proposés pour le traitement des questions-réponses. Cependant, en raison de leur nature mono-pass, ils ne disposent d'aucun moyen de se rétablir à partir des maxima locaux correspondant à des réponses incorrectes. Pour résoudre ce problème, nous introduisons le réseau de coattention dynamique (DCN) pour le traitement des questions-réponses. Le DCN fusionne d'abord les représentations interdépendantes de la question et du document afin de se concentrer sur les parties pertinentes des deux. Ensuite, un décodeur pointeur dynamique itère sur les intervalles potentiels de réponse. Cette procédure itérative permet au modèle de se rétablir à partir des maxima locaux initiaux correspondant à des réponses incorrectes. Sur l'ensemble de données Stanford pour le traitement des questions-réponses, un modèle DCN unique améliore l'état de l'art précédent en passant de 71,0 % F1 à 75,9 % F1, tandis qu'un ensemble de modèles DCN atteint 80,4 % F1.