HyperAIHyperAI
vor 2 Monaten

DDGK: Lernen von Graphrepräsentationen für tiefe Divergenzgraphkerne

Rami Al-Rfou; Dustin Zelle; Bryan Perozzi
DDGK: Lernen von Graphrepräsentationen für tiefe Divergenzgraphkerne
Abstract

Können neuronale Netze lernen, Graphen ohne Feature Engineering zu vergleichen? In dieser Arbeit zeigen wir, dass es möglich ist, Repräsentationen für die Graphähnlichkeit zu erlernen, ohne auf Fachwissen oder Aufsicht (d.h. Feature Engineering oder etikettierte Graphen) zurückzugreifen. Wir schlagen die "Deep Divergence Graph Kernels" vor, eine unüberwachte Methode zum Lernen von Repräsentationen über Graphen, die eine entspannte Vorstellung von Graphisomorphie kodiert. Unsere Methode besteht aus drei Teilen: Erstens lernen wir einen Encoder für jeden Ankergraphen, um dessen Struktur zu erfassen. Zweitens trainieren wir für jedes Paar von Graphen ein cross-graph Attention Netzwerk, das die Knotenrepräsentationen eines Ankergraphen verwendet, um einen anderen Graphen zu rekonstruieren. Dieser Ansatz, den wir als Isomorphie-Aufmerksamkeit bezeichnen, zeigt, wie gut die Repräsentationen eines Graphen den anderen kodieren können. Wir verwenden die Vorhersagen des aufmerksamkeitsverstärkten Encoders, um einen Divergenzwert für jedes Paar von Graphen zu definieren. Schließlich konstruieren wir einen Einbettungsraum für alle Graphen unter Verwendung dieser paarweisen Divergenzwerte.Im Gegensatz zu früherer Arbeit, bei der viel davon abhängt: 1) Aufsicht, 2) fachspezifisches Wissen (z.B. die Verwendung von Weisfeiler-Lehman-Kernen), und 3) bekannte Knotenanordnung, lernt unsere unüberwachte Methode gemeinsam Knotenrepräsentationen, Graphrepräsentationen und eine aufmerksamkeitsbasierte Anordnung zwischen den Graphen.Unsere experimentellen Ergebnisse zeigen, dass Deep Divergence Graph Kernels eine unüberwachte Anordnung zwischen den Graphen erlernen können und dass die gelernten Repräsentationen wettbewerbsfähige Ergebnisse erzielen, wenn sie als Merkmale in einer Reihe anspruchsvoller Graphklassifikationsaufgaben verwendet werden. Darüber hinaus veranschaulichen wir, wie die gelernte Aufmerksamkeit Einblicke in die Anordnung von Unterstrukturen über mehrere Graphen hinweg ermöglicht.

DDGK: Lernen von Graphrepräsentationen für tiefe Divergenzgraphkerne | Neueste Forschungsarbeiten | HyperAI