HyperAIHyperAI

Command Palette

Search for a command to run...

Résolution de co-référence neuronale de bout en bout

Kenton Lee† Luheng He† Mike Lewis‡ Luke Zettlemoyer†∗

Résumé

Nous présentons le premier modèle de résolution de co-référence de bout en bout et montrons qu'il surpasse significativement tous les travaux précédents sans utiliser d'analyseur syntaxique ou de détecteur de mentions conçu manuellement. L'idée clé est de considérer directement toutes les séquences dans un document comme des mentions potentielles et d'apprendre des distributions sur les antécédents possibles pour chacune. Le modèle calcule des plongements de séquences qui combinent des représentations frontalières dépendantes du contexte avec un mécanisme d'attention pour la détection des têtes. Il est formé pour maximiser la vraisemblance marginale des séquences d'antécédents dorées issues des clusters de co-référence et est factorisé pour permettre une élagage agressive des mentions potentielles. Les expériences démontrent une performance à l'état de l'art, avec une amélioration de 1,5 point F1 sur le banc d'essai OntoNotes et de 3,1 points F1 en utilisant un ensemble de cinq modèles, malgré le fait que cette approche soit la première à être formée avec succès sans ressources externes.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Résolution de co-référence neuronale de bout en bout | Articles | HyperAI