Minimisation de l'entropie graphique pour la classification de nœuds semi-supervisée

Les classificateurs de nœuds doivent réduire de manière globale les erreurs de prédiction, les ressources nécessaires à l’entraînement et la latence d’inférence dans l’industrie. Toutefois, la plupart des réseaux de neurones sur graphes (GNN) se concentrent uniquement sur une ou deux de ces dimensions. Les aspects compromis deviennent alors les maillons faibles du processus, freinant leur déploiement pratique pour des tâches à l’échelle industrielle. Ce travail propose une nouvelle méthode d’apprentissage semi-supervisé, nommée Minimisation de l’Entropie du Graphe (GEM), capable de résoudre simultanément ces trois problèmes. Grâce à une aggregation à un saut exploitant un grand nombre de nœuds non catégorisés, GEM atteint une précision de prédiction comparable à celle des GNN utilisant un passage de messages sur deux ou plusieurs sauts. De plus, GEM peut être décomposée pour permettre un entraînement stochastique par mini-batches d’échantillons d’arêtes indépendants, offrant ainsi un échantillonnage extrêmement rapide et une utilisation efficace de l’espace mémoire. Bien que son aggregation à un saut soit déjà plus rapide en inférence que celle des GNN profonds, GEM peut être encore accélérée de manière extrême grâce à la dérivation d’un classificateur sans saut via une distillation en temps réel des connaissances. Ainsi, GEM s’impose comme un choix pratique pour les services soumis à des contraintes de latence et sensibles aux erreurs, fonctionnant sur des matériels à ressources limitées. Le code est disponible à l’adresse suivante : https://github.com/cf020031308/GEM.