HyperAIHyperAI

Command Palette

Search for a command to run...

Konvolutionsbasierte 2D-Wissensgraphen-Embeddungen

Tim Dettmers∗ Università della Svizzera italiana [email protected] Pasquale Minervini Pontus Stenetorp Sebastian Riedel University College London p.minervini,p.stenetorp,[email protected]

Zusammenfassung

Die Link-Vorhersage für Wissensgraphen ist die Aufgabe, fehlende Beziehungen zwischen Entitäten vorherzusagen. Frühere Arbeiten zur Link-Vorhersage konzentrierten sich auf flache, schnelle Modelle, die auf große Wissensgraphen skaliert werden können. Diese Modelle lernen jedoch weniger ausdrucksstarke Merkmale als tiefere, mehrschichtige Modelle – was potenziell die Leistung einschränkt. In dieser Arbeit stellen wir ConvE vor, ein mehrschichtiges Faltungsnetzwerkmodell für die Link-Vorhersage, und berichten über Stand-der-Technik-Ergebnisse für mehrere etablierte Datensätze. Wir zeigen auch, dass das Modell sehr parametereffizient ist und mit 8-mal (WN18) und 17-mal (FB15k) weniger Parametern die gleiche Leistung wie DistMult und R-GCN erzielt.Eine Analyse unseres Modells deutet darauf hin, dass es besonders effektiv bei der Modellierung von Knoten mit hohem Eingangsgrad ist – eine Eigenschaft, die in stark vernetzten, komplexen Wissensgraphen wie Freebase und YAGO3 häufig vorkommt. Zudem wurde bemerkt, dass die Datensätze WN18 und FB15k von einem Testset-Leakage betroffen sind, da Umkehrbeziehungen aus dem Trainingsset im Testset vorhanden sind – bisher jedoch nicht quantifiziert worden ist, wie gravierend dieses Problem ist. Wir finden heraus, dass dieses Problem ernsthaft ist: Ein einfaches regelbasiertes Modell kann auf beiden Datensätzen Stand-der-Technik-Ergebnisse erzielen. Um sicherzustellen, dass Modelle auf Datensätzen evaluiert werden, bei denen das Ausnutzen von Umkehrbeziehungen keine wettbewerbsfähigen Ergebnisse liefert, untersuchen und validieren wir mehrere gängig verwendete Datensätze – wobei notwendigerweise robuste Varianten abgeleitet werden. Anschließend führen wir Experimente auf diesen robusten Datensätzen durch und stellen fest, dass ConvE den besten Mittleren Reziproken Rang (Mean Reciprocal Rank) bei den meisten Datensätzen erreicht.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Konvolutionsbasierte 2D-Wissensgraphen-Embeddungen | Paper | HyperAI