HyperAIHyperAI

Command Palette

Search for a command to run...

Liaison d'entités autoregressive hautement parallèle avec correction discriminative

Nicola De Cao; Wilker Aziz; Ivan Titov

Résumé

Les approches génératives ont récemment été montrées comme étant efficaces pour la désambiguïsation d'entités et le lien d'entités (c'est-à-dire, la détection conjointe de mentions et leur désambiguïsation). Cependant, la formulation auto-régressive précédemment proposée pour le lien d'entités souffre de i) un coût computationnel élevé en raison d'un décodeur complexe (profond), ii) une décodification non parallélisable qui s'accroît avec la longueur de la séquence source, et iii) la nécessité de disposer d'une grande quantité de données pour l'entraînement. Dans ce travail, nous proposons une approche très efficace qui parallélise le lien auto-régressif sur toutes les mentions potentielles et repose sur un décodeur peu profond et performant. De plus, nous enrichissons l'objectif génératif avec une composante discriminative supplémentaire, à savoir un terme de correction qui nous permet d'optimiser directement le classement du générateur. Prises ensemble, ces techniques résolvent tous les problèmes mentionnés : notre modèle est plus de 70 fois plus rapide et plus précis que la méthode générative précédente, surpassant les approches les plus avancées sur l'ensemble de données standard AIDA-CoNLL en anglais. Le code source est disponible à l'adresse suivante : https://github.com/nicola-decao/efficient-autoregressive-EL


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp