Transferentropie in Graph Convolutional Neural Networks

Graph Convolutional Networks (GCN) sind Graph Neural Networks, bei denen die Faltung über einen Graphen angewendet wird. Im Gegensatz zu Convolutional Neural Networks sind GCNs speziell darauf ausgelegt, Inferenz auf Graphen durchzuführen, bei denen die Anzahl der Knoten variabel ist und die Knoten ungeordnet sind. In dieser Studie behandeln wir zwei wesentliche Herausforderungen im Zusammenhang mit GCNs: i) Oversmoothing; und ii) die Nutzung von Knoten-Beziehungseigenschaften (d. h. Heterophilie und Homophilie). Oversmoothing bezeichnet die Abnahme der diskriminativen Fähigkeit von Knoten infolge wiederholter Aggregationen. Heterophilie beschreibt die Tendenz, dass Knoten unterschiedlicher Klassen miteinander verbunden sind, während Homophilie die Tendenz bezeichnet, dass ähnliche Knoten miteinander verbunden sind. Wir schlagen eine neue Strategie zur Bewältigung dieser Herausforderungen in GCNs vor, die auf Transferentropie (TE) basiert, einer Maßgröße für die gerichtete Informationsübertragung zwischen zwei zeitlich variierenden Knoten. Unsere Ergebnisse zeigen, dass die Verwendung von Heterophilie- und Gradinformationen als Knotenauswahlmechanismus gemeinsam mit featurebasierten TE-Berechnungen die Genauigkeit verschiedener GCN-Modelle verbessert. Unser Modell lässt sich problemlos anpassen, um die Klassifizierungsgenauigkeit eines GCN-Modells zu erhöhen. Als Kompromiss bringt dieser Leistungszuwachs jedoch einen erheblichen Rechenaufwand mit sich, insbesondere wenn die Transferentropie für viele Knoten im Graphen berechnet wird.