HyperAIHyperAI

Command Palette

Search for a command to run...

Réseaux de Neurones à Attention Graphique

Petar Veličković* Guillem Cucurull* Arantxa Casanova* Adriana Romero Pietro Liò Yoshua Bengio

Résumé

Nous présentons les réseaux de neurones à l'attention sur graphe (GATs), des architectures de réseau neuronal innovantes qui opèrent sur des données structurées en graphe, en exploitant des couches d'attention auto-masquée pour pallier les lacunes des méthodes précédentes basées sur les convolutions graphiques ou leurs approximations. En empilant des couches dans lesquelles les nœuds peuvent porter leur attention sur les caractéristiques de leur voisinage, nous permettons (implicitement) d'attribuer différents poids à différents nœuds dans un voisinage, sans nécessiter aucune opération matricielle coûteuse (comme l'inversion) ou sans dépendre de la connaissance préalable de la structure du graphe. De cette manière, nous abordons simultanément plusieurs défis clés des réseaux de neurones graphiques basés sur le spectre et rendons notre modèle facilement applicable aux problèmes inductifs ainsi qu'aux problèmes transductifs. Nos modèles GAT ont obtenu ou égalé des résultats d'état de l'art sur quatre jeux de données établis pour l'évaluation des performances transductives et inductives : les ensembles de données de réseaux de citations Cora, Citeseer et Pubmed, ainsi qu'un ensemble de données d'interactions protéine-protéine (où les graphes de test restent inconnus pendant l'entraînement).


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp