Pondération par ensemble indépendant à entropie maximale pour le pooling dans les réseaux de neurones sur graphes

Dans cet article, nous proposons une nouvelle couche de pooling pour les réseaux de neurones sur graphes fondée sur la maximisation de l’information mutuelle entre le graphe agrégé et le graphe d’entrée. Étant donné que l’information mutuelle maximale est difficile à calculer, nous utilisons la capacité de Shannon d’un graphe comme biais inductif dans notre méthode de pooling. Plus précisément, nous montrons que le graphe d’entrée de la couche de pooling peut être interprété comme une représentation d’un canal de communication bruité. Pour un tel canal, l’envoi des symboles appartenant à un ensemble indépendant du graphe permet une transmission fiable et sans erreur d’information. Nous démontrons que l’atteinte de l’information mutuelle maximale équivaut à la recherche d’un ensemble indépendant de poids maximal, où les poids représentent les contenus d’entropie. À partir de cette perspective théorique de la communication, nous offrons une vision distincte du problème de pooling de graphe, en le reformulant comme la maximisation du débit de transmission d’information à travers un canal de communication bruité, mise en œuvre par un réseau de neurones sur graphe. Nous évaluons notre méthode, désignée sous le nom de Maximum Entropy Weighted Independent Set Pooling (MEWISPool), sur des tâches de classification de graphes ainsi que sur le problème d’optimisation combinatoire de l’ensemble indépendant maximal. Les résultats expérimentaux montrent que notre approche atteint des performances de pointe et compétitives sur les tâches de classification de graphes ainsi que sur le problème de l’ensemble indépendant maximal, sur plusieurs jeux de données standard.