hpGAT: High-order Proximity Informed Graph Attention Network

Graph Neural Networks (GNNs) haben in letzter Zeit bemerkenswerte Fortschritte im Paradigma des Lernens mit graphenstrukturierten Daten erzielt. Allerdings beschränken die meisten bestehenden GNNs den Rezeptionsfeldbereich eines Knotens auf jeweils seine direkt verbundenen (einschrittigen) Nachbarn, was übergeht, dass ein großes Rezeptionsfeld als entscheidender Faktor in modernsten neuronalen Netzwerken nachgewiesen wurde. In diesem Artikel stellen wir einen neuartigen Ansatz vor, um für GNNs ein variabel anpassbares Rezeptionsfeld angemessen zu definieren, indem hochordnungige Näheinformationen aus der hierarchischen topologischen Struktur des Eingabegraphen integriert werden. Konkret werden multiskalige Gruppen, die durch eine lernbare hierarchische semi-nichtnegative Matrixfaktorisierung gewonnen werden, verwendet, um die Gewichte bei der Aggregation der einschrittigen Nachbarn anzupassen. In Kombination mit dem Graph-Attention-Mechanismus für Merkmale benachbarter Knoten werden die lernbaren Parameter im Aggregationsprozess end-to-end optimiert. Umfangreiche Experimente zeigen, dass die vorgeschlagene Methode (hpGAT) die derzeit besten Ansätze übertrifft und die Bedeutung der Ausnutzung hochordnungiger Nähe bei der Bewältigung von verrauschten Informationen im lokalen Nachbarschaftsbereich unterstreicht.