Liaison d'entités autoregressive hautement parallèle avec correction discriminative

Les approches génératives ont récemment été montrées comme étant efficaces pour la désambiguïsation d'entités et le lien d'entités (c'est-à-dire, la détection conjointe de mentions et leur désambiguïsation). Cependant, la formulation auto-régressive précédemment proposée pour le lien d'entités souffre de i) un coût computationnel élevé en raison d'un décodeur complexe (profond), ii) une décodification non parallélisable qui s'accroît avec la longueur de la séquence source, et iii) la nécessité de disposer d'une grande quantité de données pour l'entraînement. Dans ce travail, nous proposons une approche très efficace qui parallélise le lien auto-régressif sur toutes les mentions potentielles et repose sur un décodeur peu profond et performant. De plus, nous enrichissons l'objectif génératif avec une composante discriminative supplémentaire, à savoir un terme de correction qui nous permet d'optimiser directement le classement du générateur. Prises ensemble, ces techniques résolvent tous les problèmes mentionnés : notre modèle est plus de 70 fois plus rapide et plus précis que la méthode générative précédente, surpassant les approches les plus avancées sur l'ensemble de données standard AIDA-CoNLL en anglais. Le code source est disponible à l'adresse suivante : https://github.com/nicola-decao/efficient-autoregressive-EL