Weisfeiler et Lehman vont cellulaires : Réseaux CW

Les réseaux neuronaux sur graphes (GNNs) sont limités en termes de puissance d'expression, éprouvent des difficultés avec les interactions à longue portée et manquent d'une méthode fondamentale pour modéliser les structures d'ordre supérieur. Ces problèmes peuvent être attribués au couplage fort entre le graphe de calcul et la structure du graphe d'entrée. Les réseaux simpliciaux de passage de messages, récemment proposés, découplent naturellement ces éléments en effectuant le passage de messages sur le complexe de cliques du graphe. Cependant, ces modèles peuvent être fortement contraints par la structure combinatoire rigide des complexes simpliciaux (SCs). Dans ce travail, nous étendons les résultats théoriques récents sur les SCs aux complexes cellulaires réguliers, des objets topologiques qui englobent de manière flexible les SCs et les graphes. Nous montrons que cette généralisation fournit un ensemble puissant de transformations de « relèvement » de graphe, chacune conduisant à une procédure unique de passage de messages hiérarchique. Les méthodes résultantes, que nous appelons collectivement les réseaux CW (CWNs), sont strictement plus puissantes que le test WL et pas moins puissantes que le test 3-WL. En particulier, nous démontrons l'efficacité d'un tel schéma, basé sur les anneaux, lorsqu'il est appliqué aux problèmes de graphes moléculaires. L'architecture proposée bénéficie d'une expressivité prouvée supérieure à celle des GNNs couramment utilisés, d'une modélisation fondée des signaux d'ordre supérieur et d'une compression des distances entre les nœuds. Nous montrons que notre modèle atteint des résultats à l'état de l'art sur une variété de jeux de données moléculaires.