HyperAIHyperAI

Command Palette

Search for a command to run...

Transformateur graphes-à-graphes non-autorégressif récursif pour l'analyse syntaxique avec raffinement itératif

Alireza Mohammadshahi James Henderson

Résumé

Nous proposons l'architecture Recursive Non-autoregressive Graph-to-Graph Transformer (RNGTr), destinée au raffinement itératif de graphes arbitraires par application récursive d'un transformateur Graph-to-Graph non-autorégressif, et l'appliquons à la dépendance syntaxique. Nous démontrons la puissance et l'efficacité de RNGTr sur plusieurs corpora de dépendance, en utilisant un modèle de raffinement pré-entraîné avec BERT. Nous introduisons également Syntactic Transformer (SynTr), un parseur non récursif similaire à notre modèle de raffinement. RNGTr améliore la précision de divers parseurs initiaux sur 13 langues provenant des Treebanks Universal Dependencies, ainsi que sur les Penn Treebanks en anglais et chinois et sur le corpus allemand CoNLL2009, surpassant même les nouveaux résultats de l'état de l'art obtenus par SynTr, et améliorant significativement l'état de l'art pour tous les corpora testés.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp