HyperAIHyperAI
vor 2 Monaten

Effizientes heterogenes Graphenlernen durch zufällige Projektion

Jun Hu; Bryan Hooi; Bingsheng He
Effizientes heterogenes Graphenlernen durch zufällige Projektion
Abstract

Heterogene Graph Neural Networks (HGNNs) sind leistungsstarke Werkzeuge für das Deep Learning auf heterogenen Graphen. Typische HGNNs erfordern während des Trainings wiederholte Nachrichtenübertragungen, was die Effizienz bei großen, realweltlichen Graphen einschränkt. Neuere präberechnungsbasierte HGNNs verwenden eine einmalige Nachrichtenübertragung, um einen heterogenen Graph in reguläre Tensoren zu transformieren, was effizientes Minibatch-Training ermöglicht. Bestehende präberechnungsbasierte HGNNs können hauptsächlich in zwei Kategorien eingeteilt werden, die sich in der zulässigen Informationsverlust und der Effizienz unterscheiden. Wir schlagen ein hybrides präberechnungsbasiertes HGNN vor, das Random Projection Heterogeneous Graph Neural Network (RpHGNN) genannt wird. RpHGNN kombiniert die Vorteile der Effizienz einer Methode mit dem geringen Informationsverlust der anderen Methode. Um Effizienz zu erreichen, besteht der Hauptrahmen von RpHGNN aus Propagieren-dann-Aktualisieren-Iterationen, wobei wir einen Schritt namens "Zufällige Projektion und Komprimierung" (Random Projection Squashing) einführen, um sicherzustellen, dass die Komplexität nur linear zunimmt. Um geringen Informationsverlust zu gewährleisten, führen wir eine relationsspezifische Nachbarschaftssammlungskomponente mit einem geraden-ungeraden Propagationschema (Even-odd Propagation Scheme) ein, die darauf abzielt, Informationen von Nachbarn feingranularer zu sammeln. Experimentelle Ergebnisse zeigen, dass unser Ansatz sowohl auf sieben kleinen als auch großen Benchmark-Datensätzen den Stand der Technik erreicht und gleichzeitig 230% schneller ist im Vergleich zum effektivsten Baseline-Modell. Überraschenderweise übertrifft unser Ansatz nicht nur präprozessierungsbasierende Baseline-Modelle, sondern auch End-to-End-Methoden.

Effizientes heterogenes Graphenlernen durch zufällige Projektion | Neueste Forschungsarbeiten | HyperAI