Résolution de co-référence neuronale de bout en bout

Nous présentons le premier modèle de résolution de co-référence de bout en bout et montrons qu'il surpasse significativement tous les travaux précédents sans utiliser d'analyseur syntaxique ou de détecteur de mentions conçu manuellement. L'idée clé est de considérer directement toutes les séquences dans un document comme des mentions potentielles et d'apprendre des distributions sur les antécédents possibles pour chacune. Le modèle calcule des plongements de séquences qui combinent des représentations frontalières dépendantes du contexte avec un mécanisme d'attention pour la détection des têtes. Il est formé pour maximiser la vraisemblance marginale des séquences d'antécédents dorées issues des clusters de co-référence et est factorisé pour permettre une élagage agressive des mentions potentielles. Les expériences démontrent une performance à l'état de l'art, avec une amélioration de 1,5 point F1 sur le banc d'essai OntoNotes et de 3,1 points F1 en utilisant un ensemble de cinq modèles, malgré le fait que cette approche soit la première à être formée avec succès sans ressources externes.