HyperAIHyperAI
il y a 2 mois

Amélioration de l'apprentissage par méta-apprentissage pour la reconnaissance d'entités nommées interlinguistique avec des ressources minimales

Qianhui Wu; Zijia Lin; Guoxin Wang; Hui Chen; Börje F. Karlsson; Biqing Huang; Chin-Yew Lin
Amélioration de l'apprentissage par méta-apprentissage pour la reconnaissance d'entités nommées interlinguistique avec des ressources minimales
Résumé

Pour les langues ne disposant d'aucune ressource annotée, le transfert de connaissances à partir de langues dotées de ressources abondantes est une solution efficace pour la reconnaissance d'entités nommées (NER). Tandis que toutes les méthodes existantes transmettent directement le modèle appris à partir des ressources de la langue source vers une langue cible, dans cet article, nous proposons d'affiner le modèle appris avec quelques exemples similaires fournis pour un cas de test, ce qui pourrait améliorer la prédiction en exploitant les informations structurelles et sémantiques contenues dans ces exemples similaires. À cette fin, nous présentons un algorithme d'apprentissage par méta-apprentissage visant à trouver une bonne initialisation des paramètres du modèle permettant une adaptation rapide au cas de test donné, et nous proposons de construire plusieurs tâches pseudo-NER pour le méta-apprentissage en calculant les similarités entre les phrases. Pour améliorer davantage la capacité de généralisation du modèle sur différentes langues, nous introduisons un schéma de masquage et enrichissons la fonction de perte avec un terme maximal supplémentaire lors du méta-apprentissage. Nous menons des expériences approfondies sur la reconnaissance d'entités nommées interlinguistique avec des ressources minimales sur cinq langues cibles. Les résultats montrent que notre approche dépasse significativement les méthodes actuelles de pointe dans tous les cas.

Amélioration de l'apprentissage par méta-apprentissage pour la reconnaissance d'entités nommées interlinguistique avec des ressources minimales | Articles de recherche récents | HyperAI