Amélioration de la reconnaissance d'entités nommées par récupération de contexte externe et apprentissage coopératif

Les avancées récentes en reconnaissance d'entités nommées (NER) montrent que les contextes au niveau du document peuvent considérablement améliorer les performances des modèles. Toutefois, dans de nombreux scénarios d'application, de tels contextes ne sont pas disponibles. Dans cet article, nous proposons de rechercher des contextes externes pour une phrase en utilisant un moteur de recherche afin d’extraire et de sélectionner un ensemble de textes sémantiquement pertinents, en prenant la phrase originale comme requête. Nous constatons empiriquement que les représentations contextuelles calculées à partir d’une vue d’entrée basée sur la récupération — construite par concaténation de la phrase et de ses contextes externes — permettent d’atteindre des performances significativement améliorées par rapport à la vue d’entrée originale fondée uniquement sur la phrase. En outre, nous pouvons améliorer les performances du modèle sur les deux vues d’entrée grâce à un mécanisme d’apprentissage coopératif, une méthode d’entraînement qui encourage les deux vues à produire des représentations contextuelles ou des distributions de labels de sortie similaires. Des expérimentations montrent que notre approche atteint de nouvelles performances de pointe sur 8 jeux de données NER répartis sur 5 domaines.