HyperAIHyperAI

Command Palette

Search for a command to run...

PromptNER : Localisation et Typage pour la Reconnaissance d'Entités Nommées

Yongliang Shen; Zeqi Tan; Shuhui Wu; Wenqi Zhang; Rongsheng Zhang; Yadong Xi; Weiming Lu; Yueting Zhuang

Résumé

L'apprentissage par incitation (prompt learning) est une nouvelle paradigme pour l'utilisation des modèles de langage pré-entraînés et a connu un grand succès dans de nombreuses tâches. Pour appliquer l'apprentissage par incitation à la tâche d'identification des entités nommées (NER), deux types de méthodes ont été explorés à partir d'une paire de perspectives symétriques : remplir le modèle en énumérant les segments pour prédire leurs types d'entités ou construire des incitations spécifiques aux types pour localiser les entités. Cependant, ces méthodes non seulement nécessitent un mode d'incitation à plusieurs tours avec un coût temporel élevé et une charge de calcul importante, mais elles exigent également des modèles d'incitation élaborés qui sont difficiles à mettre en œuvre dans des scénarios pratiques.Dans cet article, nous unifions la localisation et le typage des entités au sein de l'apprentissage par incitation, et concevons un modèle de double emplacement multi-incitations comprenant un emplacement de position et un emplacement de type pour inciter respectivement la localisation et le typage. Plusieurs incitations peuvent être introduites simultanément dans le modèle, qui extrait ensuite toutes les entités par des prédictions parallèles sur les emplacements. Pour attribuer des étiquettes aux emplacements pendant l'entraînement, nous avons conçu un mécanisme de remplissage dynamique du modèle utilisant une correspondance bipartite étendue entre les incitations et les entités réelles.Nous menons des expériences dans diverses configurations, y compris des jeux de données NER plats et imbriqués riches en ressources, ainsi que des jeux de données mono-domaine et multi-domaine pauvres en ressources. Les résultats expérimentaux montrent que le modèle proposé réalise une amélioration significative des performances, notamment dans le cadre peu supervisé multi-domaine, surpassant le modèle de pointe actuel avec une moyenne de +7,7 %.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
PromptNER : Localisation et Typage pour la Reconnaissance d'Entités Nommées | Articles | HyperAI