Prédiction des relations comme objectif d'entraînement auxiliaire pour améliorer les représentations de graphes multi-relationnels

L'apprentissage de bonnes représentations sur des graphes multi-relationnels est essentiel pour l'achèvement des bases de connaissances (KBC). Dans cet article, nous proposons un nouvel objectif d'entraînement auto-supervisé pour l'apprentissage de représentations de graphes multi-relationnels, en intégrant simplement la prédiction des relations à l'objectif 1vsAll couramment utilisé. Le nouvel objectif d'entraînement comprend non seulement des termes pour prédire le sujet et l'objet d'un triplet donné, mais aussi un terme pour prédire le type de relation. Nous analysons comment cet nouvel objectif influence l'apprentissage multi-relationnel dans le KBC : des expériences menées sur une variété de jeux de données et de modèles montrent que la prédiction des relations peut améliorer significativement le classement des entités, tâche d'évaluation la plus largement utilisée dans le KBC, avec une augmentation de 6,1 % du MRR (Mean Reciprocal Rank) et de 9,9 % des Hits@1 sur FB15k-237, ainsi qu'une augmentation de 3,1 % du MRR et de 3,4 % des Hits@1 sur Aristo-v4. De plus, nous constatons que l'objectif proposé est particulièrement efficace sur les jeux de données hautement multi-relationnels, c'est-à-dire les jeux de données comportant un grand nombre de prédicats, et génère de meilleures représentations lorsque des tailles d'embeddings plus grandes sont utilisées.