HyperAIHyperAI
il y a 17 jours

Reconnaissance d'entités nommées basée sur Transformer avec représentation combinée des données

Michał Marcińczuk
Reconnaissance d'entités nommées basée sur Transformer avec représentation combinée des données
Résumé

Cette étude examine les modèles fondés sur les transformateurs et leur efficacité dans les tâches de reconnaissance d'entités nommées. Elle explore des stratégies de représentation des données, notamment les approches uniques, fusionnées et contextuelles, qui respectivement utilisent une seule phrase, plusieurs phrases, ou des phrases combinées par l'intermédiaire d'une attention contextuelle pour chaque vecteur. L'analyse révèle que former les modèles avec une seule stratégie peut entraîner de mauvaises performances sur différentes représentations des données. Pour surmonter cette limitation, l'étude propose une procédure d'entraînement combinée qui exploite les trois stratégies afin d'améliorer la stabilité et l'adaptabilité du modèle. Les résultats obtenus sont présentés et discutés pour quatre langues (anglais, polonais, tchèque et allemand) sur divers jeux de données, démontrant l'efficacité de la stratégie combinée.