Heterogene Netzwerk-Attn-Netzwerk

Graph Neural Networks, als eine leistungsstarke Technik zur Graphendarstellung basierend auf tiefen Lernverfahren, haben eine herausragende Leistung erzielt und erhebliches Forschungsinteresse geweckt. Allerdings wurde die Heterogenität von Graphen, die verschiedene Knotentypen und Beziehungstypen enthalten, bisher noch nicht ausreichend in der Entwicklung von Graph Neural Networks berücksichtigt. Die Heterogenität sowie die reichhaltige semantische Information stellen erhebliche Herausforderungen für die Gestaltung von Graph Neural Networks für heterogene Graphen dar. In jüngster Zeit stellt einer der aufregendsten Fortschritte im Bereich des tiefen Lernens die Aufmerksamkeitsmechanismus dar, dessen großes Potenzial in zahlreichen Anwendungsbereichen bereits überzeugend nachgewiesen wurde. In diesem Artikel stellen wir erstmals ein neuartiges heterogenes Graph Neural Network vor, das auf einem hierarchischen Aufmerksamkeitsansatz basiert und sowohl knotenbasierte als auch semantische Aufmerksamkeit integriert. Konkret zielt die knotenbasierte Aufmerksamkeit darauf ab, die Bedeutung zwischen einem Knoten und seinen Nachbarn entlang von Metapfaden zu lernen, während die semantische Aufmerksamkeit die Bedeutung verschiedener Metapfade erfassen kann. Durch die Kombination der aus beiden Aufmerksamkeitsstufen gewonnenen Gewichtungen kann die Relevanz sowohl von Knoten als auch von Metapfaden vollständig berücksichtigt werden. Anschließend generiert das vorgeschlagene Modell Knoten-Embeddings, indem es Merkmale aus den metapfadbasierten Nachbarn hierarchisch aggregiert. Umfangreiche Experimente an drei realen heterogenen Graphen zeigen nicht nur die überlegene Leistung des vorgeschlagenen Modells gegenüber aktuellen State-of-the-Art-Verfahren, sondern belegen auch dessen hohes Potenzial für eine interpretierbare Analyse von Graphen.