Verstärkung von Kompositionellen Modellen für die Vervollständigung von Wissensbasen durch Gradientendarstellungen

Neuronale Modelle von Wissensbasisdaten haben in der Regel compositionsal darstellende Graphobjekte verwendet: Entitäts- und Relationsembeddings werden systematisch kombiniert, um die Richtigkeit eines Kandidaten-Eintrags in der Wissensbasis zu bewerten. Indem wir ein Modell anwenden, das sich an der harmonischen Grammatik orientiert, schlagen wir vor, Triplettembeddings durch einen Optimierungsprozess bezüglich gelernter Wohlgeformtheitsbedingungen für Wissensbasistripel zu tokenisieren. Das resultierende Modell, bekannt als Gradient Graphs (Gradientengraphen), führt zu erheblichen Verbesserungen, wenn es als Ergänzung zu compositionsalen Modellen implementiert wird. Darüber hinaus zeigen wir, dass die von ihm erzeugten „supracompositional“ (übercompositionsal) Tripletten-Token-Embeddings interpretierbare Eigenschaften aufweisen, die bei der Inferenz auf den resultierenden Tripletten-Darstellungen hilfreich sind.