Repräsentationslernen auf Graphen mit Sprungwissensnetzwerken

Kürzliche Ansätze des Deep Learnings zur Repräsentationslernen auf Graphen folgen einem Verfahren der Nachbarschaftsaggregation. Wir analysieren einige wichtige Eigenschaften dieser Modelle und schlagen eine Strategie vor, um diese zu überwinden. Insbesondere hängt der Umfang der "nachbarn" Knoten, von denen die Repräsentation eines Knotens abhängt, stark von der Graphstruktur ab, analog zur Ausbreitung einer zufälligen Irrfahrt. Um sich an lokale Nachbarschaftseigenschaften und Aufgaben anzupassen, untersuchen wir eine Architektur – Jumping Knowledge (JK)-Netze – die für jeden Knoten flexibel verschiedene Nachbarschaftsbereiche nutzt, um eine bessere strukturbewusste Repräsentation zu ermöglichen. In einer Reihe von Experimenten auf sozialen, bioinformatischen und Zitationsnetzen zeigen wir, dass unser Modell den aktuellen Stand der Technik in Bezug auf Leistung erreicht. Darüber hinaus führt die Kombination des JK-Frameworks mit Modellen wie Graph Convolutional Networks (GCNs), GraphSAGE und Graph Attention Networks (GATs) zu einer stetigen Verbesserung der Leistung dieser Modelle.