HyperAIHyperAI
il y a 2 mois

Réseau de Coattention à Grains Multiples pour le Traitement de Questions à Multiples Preuves

Victor Zhong; Caiming Xiong; Nitish Shirish Keskar; Richard Socher
Réseau de Coattention à Grains Multiples pour le Traitement de Questions à Multiples Preuves
Résumé

Les modèles neuronaux de bout en bout ont réalisé des progrès significatifs dans le domaine des systèmes de réponse à questions, cependant, des études récentes montrent que ces modèles font implicitement l'hypothèse que la réponse et les preuves se trouvent proches l'une de l'autre au sein d'un seul document. Dans ce travail, nous proposons le réseau de coattention grossier-fin (Coarse-grain Fine-grain Coattention Network, CFC), un nouveau modèle de réponse à questions qui combine les informations provenant des preuves dispersées dans plusieurs documents. Le CFC est composé d'un module grossier qui interprète les documents en fonction de la requête avant de trouver une réponse pertinente, et d'un module fin qui évalue chaque réponse candidate en comparant ses occurrences dans tous les documents avec la requête. Nous concevons ces modules en utilisant des hiérarchies de coattention et d'auto-attention, qui apprennent à mettre l'accent sur différentes parties de l'entrée. Sur la tâche Qangaroo WikiHop de réponse à questions basée sur plusieurs preuves, le CFC obtient un nouveau résultat state-of-the-art de 70,6 % sur l'ensemble de tests aveugles, surpassant le meilleur précédent modèle avec une amélioration de 3 % en précision malgré l'absence d'encodeurs contextuels préformés.

Réseau de Coattention à Grains Multiples pour le Traitement de Questions à Multiples Preuves | Articles de recherche récents | HyperAI