Hyperbolische Graphen-Convolutional Neural Networks

Graphenbasierte neuronale Netze mit konvolutionalem Aufbau (Graph Convolutional Neural Networks, GCNs) projizieren Knoten eines Graphen in einen euklidischen Raum, wobei sich gezeigt hat, dass bei der Einbettung realweltlicher Graphen mit skalenfreier oder hierarchischer Struktur eine erhebliche Verzerrung entsteht. Die hyperbolische Geometrie bietet hierbei eine vielversprechende Alternative, da sie Einbettungen mit deutlich geringerer Verzerrung ermöglicht. Die Erweiterung von GCNs auf hyperbolische Geometrie birgt jedoch mehrere einzigartige Herausforderungen, da unklar ist, wie neuronale Netzwerkoperationen wie Merkmalstransformation und Aggregation in hyperbolischem Raum definiert werden können. Zudem ist unklar, wie euklidische Eingabemerkmale in hyperbolische Einbettungen mit einer geeigneten, schichtweise trainierbaren Krümmung transformiert werden können. In diesem Beitrag präsentieren wir den Hyperbolischen Graphen-Convolutional Neural Network (HGCN), das erste induktive hyperbolische GCN-Modell, das sowohl die Ausdruckskraft von GCNs als auch die Vorteile der hyperbolischen Geometrie nutzt, um induktive Knotenrepräsentationen für hierarchische und skalenfreie Graphen zu lernen. Wir leiten die GCN-Operationen im Hyperboloidmodell der hyperbolischen Geometrie ab und transformieren euklidische Eingabemerkmale in hyperbolische Räume mit schichtweise variabler, trainierbarer Krümmung. Experimente zeigen, dass HGCN Einbettungen erzeugt, die die hierarchische Struktur gut bewahren, und im Vergleich zu euklidischen Analoga eine verbesserte Leistung erzielt – selbst bei sehr niedrigen Dimensionen: Im Vergleich zu aktuellen State-of-the-Art-GCNs erreicht HGCN eine Fehlerreduktion von bis zu 63,1 % im ROC AUC-Wert für die Linkvorhersage und von bis zu 47,5 % im F1-Score für die Knotenklassifikation, wobei auch der Stand der Technik auf dem Pubmed-Datensatz übertroffen wird.