Génération de paramètres contextuels pour la prédiction de liens dans les graphes de connaissances

Nous considérons la tâche de prédiction de liens dans les graphes de connaissances. Étant donné une question composée d'une entité source et d'une relation (par exemple, Shakespeare et NéDans), l'objectif est de prédire l'entité cible la plus probable (par exemple, Angleterre). Les approches récentes abordent ce problème en apprenant des embeddings d'entités et de relations. Toutefois, elles imposent souvent une contrainte sur la relation entre ces embeddings, qui est additive (c’est-à-dire que les embeddings sont concaténés puis traités par une suite de fonctions linéaires et de non-linéarités élément par élément). Nous montrons que ce type d’interaction limite significativement la puissance de représentation. Par exemple, de tels modèles ne peuvent pas gérer des cas où une projection différente de l’entité source est utilisée pour chaque relation. Nous proposons d’utiliser une génération contextuelle de paramètres afin de surmonter cette limitation. Plus précisément, nous traitons les relations comme le contexte dans lequel les entités sources sont traitées pour produire des prédictions, en utilisant les embeddings de relations pour générer les paramètres d’un modèle agissant sur les embeddings des entités sources. Cela permet aux modèles de représenter des interactions plus complexes entre entités et relations. Nous appliquons notre méthode à deux approches existantes de prédiction de liens, y compris celle qui est actuellement l’état de l’art, obtenant ainsi des gains de performance importants et établissant un nouveau record pour cette tâche. Ces améliorations sont obtenues tout en réduisant le temps de convergence jusqu’à 28 fois.