HyperAIHyperAI

Command Palette

Search for a command to run...

Réseau de Coattention à Grains Multiples pour le Traitement de Questions à Multiples Preuves

Victor Zhong; Caiming Xiong; Nitish Shirish Keskar; Richard Socher

Résumé

Les modèles neuronaux de bout en bout ont réalisé des progrès significatifs dans le domaine des systèmes de réponse à questions, cependant, des études récentes montrent que ces modèles font implicitement l'hypothèse que la réponse et les preuves se trouvent proches l'une de l'autre au sein d'un seul document. Dans ce travail, nous proposons le réseau de coattention grossier-fin (Coarse-grain Fine-grain Coattention Network, CFC), un nouveau modèle de réponse à questions qui combine les informations provenant des preuves dispersées dans plusieurs documents. Le CFC est composé d'un module grossier qui interprète les documents en fonction de la requête avant de trouver une réponse pertinente, et d'un module fin qui évalue chaque réponse candidate en comparant ses occurrences dans tous les documents avec la requête. Nous concevons ces modules en utilisant des hiérarchies de coattention et d'auto-attention, qui apprennent à mettre l'accent sur différentes parties de l'entrée. Sur la tâche Qangaroo WikiHop de réponse à questions basée sur plusieurs preuves, le CFC obtient un nouveau résultat state-of-the-art de 70,6 % sur l'ensemble de tests aveugles, surpassant le meilleur précédent modèle avec une amélioration de 3 % en précision malgré l'absence d'encodeurs contextuels préformés.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp