Cette étude exploite les structures communautaires afin de corriger les biais liés au degré des nœuds dans les réseaux de propagation de messages (message-passing, MP) grâce à des augmentations graphiques apprenables et à de nouveaux transformateurs graphiques. Les méthodes récentes basées sur l’augmentation ont montré que les réseaux neuronaux MP peinent souvent à bien performer sur les nœuds à faible degré, entraînant des biais de degré en raison du manque de messages parvenant à ces nœuds. Malgré leurs succès, la plupart de ces approches reposent sur des augmentations heuristiques ou aléatoires uniformes, qui sont non différentiables et ne garantissent pas toujours la génération d’arêtes pertinentes pour l’apprentissage des représentations. Dans ce travail, nous proposons les Transformateurs Graphiques Sensibles aux Communautés, appelés CGT, afin d’apprendre des représentations dépourvues de biais de degré grâce à des augmentations graphiques apprenables et à des transformateurs graphiques, en exploitant les structures internes aux communautés. Nous proposons d’abord une augmentation graphique apprenable, conçue pour générer davantage d’arêtes internes aux communautés reliant les nœuds à faible degré, via une perturbation d’arêtes. Ensuite, nous introduisons une attention auto-supervisée améliorée, permettant d’apprendre la proximité fondamentale et les rôles des nœuds au sein de la communauté. Enfin, nous proposons une tâche d’apprentissage auto-supervisé visant à préserver la structure globale du graphe tout en régularisant les augmentations graphiques. Des expériences étendues sur diverses bases de données standard montrent que CGT surpasser les meilleures méthodes existantes et réduit significativement les biais de degré des nœuds. Le code source est disponible à l’adresse suivante : https://github.com/NSLab-CUK/Community-aware-Graph-Transformer.