HyperAIHyperAI

Command Palette

Search for a command to run...

Parametrisierte hyperkomplexe Graph Neural Networks für die Graphklassifikation

Tuan Le Marco Bertolini Frank Noé Djork-Arné Clevert

Zusammenfassung

Trotz der jüngsten Fortschritte in der Repräsentationslernen in hyperkomplexen (HC) Räumen bleibt dieses Thema im Kontext von Graphen nach wie vor weitgehend unerforscht. Ausgehend von den komplexen und quaternionischen Algebren, die sich in mehreren Kontexten als effektiv für das Repräsentationslernen erwiesen haben und dabei eine inhärente Gewichtsteilung (weight-sharing) Mechanik integrieren, entwickeln wir Graph Neural Networks (GNNs), die die Eigenschaften der hyperkomplexen Merkmalstransformation nutzen. Insbesondere wird in unserer vorgeschlagenen Modellklasse die Multiplikationsregel, die die Algebra selbst definiert, während des Trainings aus den Daten inferiert. Unter Beibehaltung einer festen Modellarchitektur liefern wir empirische Belege dafür, dass unser vorgeschlagener Ansatz eine Regularisierungswirkung aufweist und somit das Risiko von Overfitting verringert. Zudem zeigen wir, dass bei gleichbleibender Modellkapazität unsere Methode die entsprechende reelle GNN-Version übertrifft, was zusätzliche Bestätigung für die erhöhte Ausdruckskraft hyperkomplexer Einbettungen liefert. Schließlich testen wir unsere vorgeschlagene hyperkomplexe GNN an mehreren öffentlichen Benchmark-Datensätzen für Graphen und zeigen, dass unsere Modelle eine state-of-the-art-Leistung erzielen, während sie gleichzeitig einen um 70 % geringeren Speicherverbrauch und deutlich weniger Parameter benötigen. Unsere Implementierungen sind unter https://github.com/bayer-science-for-a-better-life/phc-gnn verfügbar.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp