HyperAIHyperAI
il y a 2 mois

Réseaux de Neurones à Attention Graphique

Petar Veličković; Guillem Cucurull; Arantxa Casanova; Adriana Romero; Pietro Liò; Yoshua Bengio
Réseaux de Neurones à Attention Graphique
Résumé

Nous présentons les réseaux de neurones à l'attention sur graphe (GATs), des architectures de réseau neuronal innovantes qui opèrent sur des données structurées en graphe, en exploitant des couches d'attention auto-masquée pour pallier les lacunes des méthodes précédentes basées sur les convolutions graphiques ou leurs approximations. En empilant des couches dans lesquelles les nœuds peuvent porter leur attention sur les caractéristiques de leur voisinage, nous permettons (implicitement) d'attribuer différents poids à différents nœuds dans un voisinage, sans nécessiter aucune opération matricielle coûteuse (comme l'inversion) ou sans dépendre de la connaissance préalable de la structure du graphe. De cette manière, nous abordons simultanément plusieurs défis clés des réseaux de neurones graphiques basés sur le spectre et rendons notre modèle facilement applicable aux problèmes inductifs ainsi qu'aux problèmes transductifs. Nos modèles GAT ont obtenu ou égalé des résultats d'état de l'art sur quatre jeux de données établis pour l'évaluation des performances transductives et inductives : les ensembles de données de réseaux de citations Cora, Citeseer et Pubmed, ainsi qu'un ensemble de données d'interactions protéine-protéine (où les graphes de test restent inconnus pendant l'entraînement).