HyperAIHyperAI

Command Palette

Search for a command to run...

SIGN: Skalierbare Einführungsgenerierte Graphen-Neuronale Netze

Fabrizio Frasca Emanuele Rossi Davide Eynard Ben Chamberlain Michael Bronstein Federico Monti

Zusammenfassung

Die Graph-Darstellungslernung wurde kürzlich auf eine breite Palette von Problemen angewendet, die von Computergrafik und Chemie über Hochenergiephysik bis hin zu sozialen Medien reichen. Die Popularität von Graph Neural Networks hat sowohl in der akademischen Forschung als auch in der Industrie großes Interesse geweckt, Methoden zu entwickeln, die auf sehr große Graphen wie die sozialen Netzwerke von Facebook oder Twitter skalieren. In den meisten dieser Ansätze wird die Rechenkosten durch eine Sampling-Strategie reduziert, bei der zu Trainingszeit nur eine Teilmenge der Nachbarn von Knoten oder Unterggraphen beibehalten wird. In diesem Paper stellen wir eine neue, effiziente und skalierbare Architektur für tiefe Graphen-Lernverfahren vor, die den Bedarf an Graph-Sampling umgeht, indem sie Graph-Faltungsfilter unterschiedlicher Größe nutzt, die einer effizienten Vorverarbeitung zugänglich sind und somit eine extrem schnelle Trainings- und Inferenzphase ermöglichen. Unsere Architektur erlaubt die Verwendung verschiedener lokaler Graph-Operatoren (z. B. durch Motive induzierte Adjazenzmatrizen oder personalisierte Page-Rank-Diffusionsmatrizen), um die jeweilige Aufgabe optimal zu unterstützen. Wir führen eine umfassende experimentelle Evaluation auf mehreren offenen Benchmarks durch und zeigen, dass unser Ansatz mit anderen state-of-the-art-Architekturen konkurrieren kann, dabei aber nur einen Bruchteil der Trainings- und Inferenzzeit benötigt. Darüber hinaus erzielen wir state-of-the-art-Ergebnisse auf dem Datensatz ogbn-papers100M, dem größten öffentlichen Graphendatensatz mit über 110 Millionen Knoten und 1,5 Milliarden Kanten.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp