GraphSAINT: Graph-basierte induktive Lernmethode

Graph Convolutional Networks (GCNs) sind leistungsstarke Modelle zur Lernrepräsentation von attributierten Graphen. Um GCNs auf große Graphen zu skalieren, verwenden moderne Methoden verschiedene Schicht-Abtasttechniken, um das Problem der „Nachbarschaftsexplosion“ während des Minibatch-Trainings zu lindern. Wir schlagen GraphSAINT vor, eine graph-abgetastete induktive Lernmethode, die die Trainings-effizienz und -genauigkeit auf grundlegend andere Weise verbessert. Indem wir den Blickwinkel ändern, konstruiert GraphSAINT Minibatches durch Abtasten des Trainingsgraphen anstelle der Knoten oder Kanten über GCN-Schichten hinweg. In jeder Iteration wird ein vollständiger GCN aus dem angemessen abgetasteten Untergraphen erstellt. Somit stellen wir sicher, dass in allen Schichten eine feste Anzahl gut verbundener Knoten vorhanden ist. Wir schlagen zudem eine Normalisierungstechnik vor, um Verzerrungen zu beseitigen, sowie Abtastalgorithmen zur Varianzreduktion. Wichtig ist, dass wir die Abtastung vom Vorwärts- und Rückwärtspropagationsschritt entkoppeln können und GraphSAINT mit vielen Architekturvarianten erweitern (z.B., Graph-Aufmerksamkeit, Sprungverbindung). GraphSAINT zeigt eine überlegene Leistung sowohl in Genauigkeit als auch in Trainingszeit bei fünf großen Graphen und erreicht neue Top-Werte für F1-Scores im Protein-Protein-Interaktionsnetzwerk (PPI) (0,995) und Reddit (0,970).