PromptNER : Localisation et Typage pour la Reconnaissance d'Entités Nommées

L'apprentissage par incitation (prompt learning) est une nouvelle paradigme pour l'utilisation des modèles de langage pré-entraînés et a connu un grand succès dans de nombreuses tâches. Pour appliquer l'apprentissage par incitation à la tâche d'identification des entités nommées (NER), deux types de méthodes ont été explorés à partir d'une paire de perspectives symétriques : remplir le modèle en énumérant les segments pour prédire leurs types d'entités ou construire des incitations spécifiques aux types pour localiser les entités. Cependant, ces méthodes non seulement nécessitent un mode d'incitation à plusieurs tours avec un coût temporel élevé et une charge de calcul importante, mais elles exigent également des modèles d'incitation élaborés qui sont difficiles à mettre en œuvre dans des scénarios pratiques.Dans cet article, nous unifions la localisation et le typage des entités au sein de l'apprentissage par incitation, et concevons un modèle de double emplacement multi-incitations comprenant un emplacement de position et un emplacement de type pour inciter respectivement la localisation et le typage. Plusieurs incitations peuvent être introduites simultanément dans le modèle, qui extrait ensuite toutes les entités par des prédictions parallèles sur les emplacements. Pour attribuer des étiquettes aux emplacements pendant l'entraînement, nous avons conçu un mécanisme de remplissage dynamique du modèle utilisant une correspondance bipartite étendue entre les incitations et les entités réelles.Nous menons des expériences dans diverses configurations, y compris des jeux de données NER plats et imbriqués riches en ressources, ainsi que des jeux de données mono-domaine et multi-domaine pauvres en ressources. Les résultats expérimentaux montrent que le modèle proposé réalise une amélioration significative des performances, notamment dans le cadre peu supervisé multi-domaine, surpassant le modèle de pointe actuel avec une moyenne de +7,7 %.