Wie man seine Knowledge Graph Embeddings in generative Models umwandelt

Einige der erfolgversprechendsten Modelle zur Wissensgraphen-Embedding (Knowledge Graph Embedding, KGE) für die Link-Vorhersage – CP, RESCAL, TuckER, ComplEx – lassen sich als energiebasierte Modelle interpretieren. Aus dieser Perspektive sind sie jedoch nicht für eine exakte Maximum-Likelihood-Schätzung (MLE), Sampling oder die Integration logischer Constraints geeignet. In dieser Arbeit wird die Score-Funktion dieser KGE-Modelle neu interpretiert als Schaltkreise – eingeschränkte rechnerische Graphen, die eine effiziente Marginalisierung erlauben. Anschließend entwickeln wir zwei Rezepte, um effiziente generative Schaltkreismodelle zu konstruieren, indem wir entweder die Aktivierungen auf nicht-negative Werte beschränken oder die Ausgaben quadrieren. Diese Interpretation führt zu nur geringem oder gar keinem Leistungsverlust bei der Link-Vorhersage, während der Schaltkreisrahmen exaktes Lernen mittels MLE, effizientes Sampling neuer Tripel sowie die garantierte Einhaltung logischer Constraints durch Konstruktion ermöglicht. Darüber hinaus skaliert unser Modell auf Graphen mit Millionen von Entitäten deutlich eleganter als die ursprünglichen KGE-Modelle.