Désambiguïsation d'entités globales avec BERT

Nous proposons un modèle de désambiguïsation d'entités (ED) global basé sur BERT. Pour capturer les informations contextuelles globales pour l'ED, notre modèle traite non seulement les mots mais aussi les entités comme des jetons d'entrée, et résout la tâche en résolvant séquentiellement les mentions vers leurs entités référentes, en utilisant ces entités résolues comme entrées à chaque étape. Nous formons le modèle à l'aide d'un grand corpus annoté en entités obtenu à partir de Wikipedia. Nous obtenons de nouveaux résultats de pointe sur cinq jeux de données standard pour l'ED : AIDA-CoNLL, MSNBC, AQUAINT, ACE2004 et WNED-WIKI. Le code source et le point de contrôle du modèle sont disponibles à l'adresse suivante : https://github.com/studio-ousia/luke.