HyperAIHyperAI
vor 11 Tagen

Niedrigdimensionale hyperbolische Wissensgraphen-Embeddings

Ines Chami, Adva Wolf, Da-Cheng Juan, Frederic Sala, Sujith Ravi, Christopher Ré
Niedrigdimensionale hyperbolische Wissensgraphen-Embeddings
Abstract

Wissensgraphen-(KG-)Einbettungen lernen niedrigdimensionale Darstellungen von Entitäten und Relationen, um fehlende Fakten vorherzusagen. Wissensgraphen weisen oft hierarchische und logische Muster auf, die im Einbettungsraum erhalten bleiben müssen. Für hierarchische Daten haben hyperbolische Einbettungsmethoden vielversprechende, hochgenaue und sparsame Darstellungen gezeigt. Allerdings berücksichtigen bestehende hyperbolische Einbettungsmethoden die reichen logischen Muster in Wissensgraphen nicht. In dieser Arbeit stellen wir eine Klasse von hyperbolischen KG-Einbettungsmodellen vor, die gleichzeitig hierarchische und logische Muster erfassen. Unser Ansatz kombiniert hyperbolische Spiegelungen und Rotationen mit Aufmerksamkeit, um komplexe relationale Muster zu modellieren. Experimentelle Ergebnisse auf Standard-KG-Benchmarks zeigen, dass unsere Methode bestehende auf euklidischen und hyperbolischen Ansätzen basierende Verfahren um bis zu 6,1 % im mittleren reziproken Rang (MRR) in niedrigen Dimensionen übertrifft. Zudem beobachten wir, dass verschiedene geometrische Transformationen unterschiedliche Arten von Relationen erfassen, während auf Aufmerksamkeit basierende Transformationen sich auf mehrere Relationen generalisieren lassen. In höheren Dimensionen erreicht unser Ansatz neue SOTA-Werte (state-of-the-art) für den MRR von 49,6 % auf WN18RR und 57,7 % auf YAGO3-10.

Niedrigdimensionale hyperbolische Wissensgraphen-Embeddings | Neueste Forschungsarbeiten | HyperAI