Konvolutionsbasierte 2D-Wissensgraphen-Embeddungen

Die Link-Vorhersage für Wissensgraphen ist die Aufgabe, fehlende Beziehungen zwischen Entitäten vorherzusagen. Frühere Arbeiten zur Link-Vorhersage konzentrierten sich auf flache, schnelle Modelle, die auf große Wissensgraphen skaliert werden können. Diese Modelle lernen jedoch weniger ausdrucksstarke Merkmale als tiefere, mehrschichtige Modelle – was potenziell die Leistung einschränkt. In dieser Arbeit stellen wir ConvE vor, ein mehrschichtiges Faltungsnetzwerkmodell für die Link-Vorhersage, und berichten über Stand-der-Technik-Ergebnisse für mehrere etablierte Datensätze. Wir zeigen auch, dass das Modell sehr parametereffizient ist und mit 8-mal (WN18) und 17-mal (FB15k) weniger Parametern die gleiche Leistung wie DistMult und R-GCN erzielt.Eine Analyse unseres Modells deutet darauf hin, dass es besonders effektiv bei der Modellierung von Knoten mit hohem Eingangsgrad ist – eine Eigenschaft, die in stark vernetzten, komplexen Wissensgraphen wie Freebase und YAGO3 häufig vorkommt. Zudem wurde bemerkt, dass die Datensätze WN18 und FB15k von einem Testset-Leakage betroffen sind, da Umkehrbeziehungen aus dem Trainingsset im Testset vorhanden sind – bisher jedoch nicht quantifiziert worden ist, wie gravierend dieses Problem ist. Wir finden heraus, dass dieses Problem ernsthaft ist: Ein einfaches regelbasiertes Modell kann auf beiden Datensätzen Stand-der-Technik-Ergebnisse erzielen. Um sicherzustellen, dass Modelle auf Datensätzen evaluiert werden, bei denen das Ausnutzen von Umkehrbeziehungen keine wettbewerbsfähigen Ergebnisse liefert, untersuchen und validieren wir mehrere gängig verwendete Datensätze – wobei notwendigerweise robuste Varianten abgeleitet werden. Anschließend führen wir Experimente auf diesen robusten Datensätzen durch und stellen fest, dass ConvE den besten Mittleren Reziproken Rang (Mean Reciprocal Rank) bei den meisten Datensätzen erreicht.