HyperAIHyperAI
il y a 18 jours

Revue des étiquettes : réseau de graphes d'étiquettes avec ensemble de prédictions top-k pour l'extraction de relations

Bo Li, Wei Ye, Jinglei Zhang, Shikun Zhang
Revue des étiquettes : réseau de graphes d'étiquettes avec ensemble de prédictions top-k pour l'extraction de relations
Résumé

La méthode classique d'extraction de relations consiste à fine-tuner des grands modèles linguistiques pré-entraînés sur des jeux de données spécifiques à la tâche, puis à sélectionner l'étiquette ayant la probabilité maximale dans la distribution de sortie comme prédiction finale. Toutefois, l’utilisation de l’ensemble des k meilleures prédictions pour un échantillon donné est généralement négligée. Dans ce papier, nous révélons d’abord que l’ensemble des k meilleures prédictions d’un échantillon donné contient des informations utiles pour prédire l’étiquette correcte. Afin d’utiliser efficacement cet ensemble, nous proposons un réseau de graphes d’étiquettes basé sur l’ensemble des k meilleures prédictions, que nous désignons par KLG. Plus précisément, pour un échantillon donné, nous construisons un graphe d’étiquettes afin d’analyser les étiquettes candidates présentes dans l’ensemble des k meilleures prédictions et d’apprendre les relations entre elles. Nous avons également conçu un mécanisme dynamique de sélection de k afin d’apprendre des représentations relationnelles plus puissantes et discriminatives. Nos expériences montrent que KLG obtient les meilleurs résultats sur trois jeux de données d’extraction de relations. En outre, nous observons que KLG est particulièrement efficace pour traiter les classes à distribution longue-taille.