UltraGCN: Ultra Vereinfachung von Graph Convolutional Networks für Empfehlungssysteme

Mit dem jüngsten Erfolg von Graph-Convolutional Networks (GCNs) wurden diese weithin für Empfehlungssysteme eingesetzt und erzielten beeindruckende Leistungssteigerungen. Der Kern von GCNs liegt in ihrem Message-Passing-Mechanismus zur Aggregation von Nachbarschaftsinformationen. Wir beobachteten jedoch, dass der Message-Passing-Prozess die Konvergenzgeschwindigkeit von GCNs während des Trainings erheblich verlangsamt, insbesondere bei großskaligen Empfehlungssystemen, was deren breite Anwendung erschwert. LightGCN unternahm einen frühen Versuch, GCNs für die Zusammenarbeitsschätzung zu vereinfachen, indem er Feature-Transformationen und nichtlineare Aktivierungen wegließ. In dieser Arbeit gehen wir einen Schritt weiter und schlagen eine ultra-vereinfachte Formulierung von GCNs vor (UltraGCN genannt), die die unendlich vielen Schichten des Message Passings umgeht, um eine effiziente Empfehlung zu ermöglichen. Anstelle eines expliziten Message Passings approximiert UltraGCN direkt den Grenzwert unendlich vieler Graph-Convolutionen mittels einer constraintsbasierten Verlustfunktion. Gleichzeitig ermöglicht UltraGCN eine präzisere Zuweisung von Kanten gewichten und eine flexible Anpassung der relativen Bedeutung verschiedener Beziehungstypen. Dadurch entsteht ein einfaches, dennoch leistungsfähiges Modell, das leicht implementierbar und effizient zu trainieren ist. Experimentelle Ergebnisse auf vier Benchmark-Datensätzen zeigen, dass UltraGCN nicht nur die derzeit besten GCN-Modelle übertrifft, sondern auch eine Geschwindigkeitssteigerung um mehr als das 10-fache gegenüber LightGCN erreicht. Der Quellcode wird unter https://reczoo.github.io/UltraGCN verfügbar sein.