Dimensionsreduktion trifft Nachrichtenübertragung für Graphenknoten-Embeddings

Graph Neural Networks (GNNs) sind zu einer etablierten Methode für eine Vielzahl von Anwendungen geworden, die von der Analyse sozialer Netzwerke bis hin zur Modellierung chemischer Eigenschaften von Molekülen reichen. Obwohl GNNs auf öffentlichen Datensätzen oft bemerkenswerte Leistungen erzielen, können sie Schwierigkeiten haben, langreichweitige Abhängigkeiten in den Daten zu lernen, was auf Tendenzen zur Überglättung (over-smoothing) und Überkompression (over-squashing) zurückzuführen ist. Um dieser Herausforderung entgegenzuwirken, schlagen wir PCAPass vor – eine Methode, die die Hauptkomponentenanalyse (PCA) mit dem Message-Passing-Verfahren kombiniert, um knotenbasierte Embeddings auf unsupervisierter Basis zu generieren, und Gradient Boosted Decision Trees für Klassifikationsaufgaben nutzt. Wir zeigen empirisch, dass dieser Ansatz im Vergleich zu etablierten GNNs auf Benchmark-Daten für Knotenklassifikation konkurrenzfähige Ergebnisse erzielt, während er gleichzeitig Informationen aus weiter entfernten Nachbarschaften integriert. Unsere Forschung belegt, dass die Kombination von Dimensionsreduktion, Message Passing und Skip-Verbindungen ein vielversprechendes Konzept darstellt, um langreichweitige Abhängigkeiten in graphenstrukturierten Daten effektiv zu aggregieren.