HyperAIHyperAI

Command Palette

Search for a command to run...

Prédiction des relations comme objectif d'entraînement auxiliaire pour améliorer les représentations de graphes multi-relationnels

Yihong Chen Pasquale Minervini Sebastian Riedel Pontus Stenetorp

Résumé

L'apprentissage de bonnes représentations sur des graphes multi-relationnels est essentiel pour l'achèvement des bases de connaissances (KBC). Dans cet article, nous proposons un nouvel objectif d'entraînement auto-supervisé pour l'apprentissage de représentations de graphes multi-relationnels, en intégrant simplement la prédiction des relations à l'objectif 1vsAll couramment utilisé. Le nouvel objectif d'entraînement comprend non seulement des termes pour prédire le sujet et l'objet d'un triplet donné, mais aussi un terme pour prédire le type de relation. Nous analysons comment cet nouvel objectif influence l'apprentissage multi-relationnel dans le KBC : des expériences menées sur une variété de jeux de données et de modèles montrent que la prédiction des relations peut améliorer significativement le classement des entités, tâche d'évaluation la plus largement utilisée dans le KBC, avec une augmentation de 6,1 % du MRR (Mean Reciprocal Rank) et de 9,9 % des Hits@1 sur FB15k-237, ainsi qu'une augmentation de 3,1 % du MRR et de 3,4 % des Hits@1 sur Aristo-v4. De plus, nous constatons que l'objectif proposé est particulièrement efficace sur les jeux de données hautement multi-relationnels, c'est-à-dire les jeux de données comportant un grand nombre de prédicats, et génère de meilleures représentations lorsque des tailles d'embeddings plus grandes sont utilisées.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp