Comment transformer vos embeddings de graphe de connaissances en modèles génératifs

Certains des modèles les plus performants en intégration de graphes de connaissances (KGE) pour la prédiction de liens — CP, RESCAL, TuckER, ComplEx — peuvent être interprétés comme des modèles fondés sur une énergie. Sous cette perspective, ils ne sont pas adaptés à une estimation maximale de vraisemblance (MLE) exacte, à l’échantillonnage, ni à l’intégration efficace de contraintes logiques. Ce travail réinterprète les fonctions de score de ces KGE comme des circuits — des graphes computationnels contraints permettant une marginalisation efficace. Ensuite, nous proposons deux approches pour obtenir des modèles génératifs efficaces à partir de ces circuits, soit en restreignant leurs activations à des valeurs non négatives, soit en élevant au carré leurs sorties. Cette nouvelle interprétation entraîne une perte négligeable, voire aucune, en performance pour la prédiction de liens, tout en permettant, grâce au cadre des circuits, une apprentissage exact par MLE, un échantillonnage efficace de nouveaux triplets et une satisfaction garantie des contraintes logiques par construction. En outre, nos modèles se généralisent de manière plus fluide que les KGE d’origine sur des graphes comptant des millions d’entités.