Enseignement mutuel pour les réseaux de convolution graphique

Les réseaux de convolution graphique produisent de bonnes prédictions pour les échantillons non étiquetés grâce à une propagation transductive des étiquettes. Étant donné que les échantillons présentent des niveaux de confiance différents dans leurs prédictions, nous utilisons les prédictions à haute confiance comme des pseudo-étiquettes afin d’étendre l’ensemble d’étiquettes, permettant ainsi de sélectionner davantage d’échantillons pour la mise à jour des modèles. Nous proposons une nouvelle méthode d’entraînement appelée enseignement mutuel : nous entraînons deux modèles simultanément et les faisons s’enseigner mutuellement au cours de chaque lot. Premièrement, chaque réseau effectue une propagation avant sur tous les échantillons et sélectionne ceux dont les prédictions sont à haute confiance. Deuxièmement, chaque modèle est mis à jour à l’aide des échantillons sélectionnés par le modèle pair. Nous considérons les prédictions à haute confiance comme un savoir utile, et ce savoir utile, transmis par un réseau à son pair via la mise à jour du modèle à chaque lot, permet d’améliorer l’apprentissage. Dans l’enseignement mutuel, l’ensemble de pseudo-étiquettes d’un réseau provient du réseau pair. En raison de la nouvelle stratégie d’entraînement proposée, les performances s’améliorent significativement. Des résultats expérimentaux étendus démontrent que notre méthode atteint des performances supérieures à celles des méthodes de pointe, même à des taux d’étiquetage très faibles.