HyperAIHyperAI

Command Palette

Search for a command to run...

Enseignement mutuel pour les réseaux de convolution graphique

Kun Zhan Chaoxi Niu

Résumé

Les réseaux de convolution graphique produisent de bonnes prédictions pour les échantillons non étiquetés grâce à une propagation transductive des étiquettes. Étant donné que les échantillons présentent des niveaux de confiance différents dans leurs prédictions, nous utilisons les prédictions à haute confiance comme des pseudo-étiquettes afin d’étendre l’ensemble d’étiquettes, permettant ainsi de sélectionner davantage d’échantillons pour la mise à jour des modèles. Nous proposons une nouvelle méthode d’entraînement appelée enseignement mutuel : nous entraînons deux modèles simultanément et les faisons s’enseigner mutuellement au cours de chaque lot. Premièrement, chaque réseau effectue une propagation avant sur tous les échantillons et sélectionne ceux dont les prédictions sont à haute confiance. Deuxièmement, chaque modèle est mis à jour à l’aide des échantillons sélectionnés par le modèle pair. Nous considérons les prédictions à haute confiance comme un savoir utile, et ce savoir utile, transmis par un réseau à son pair via la mise à jour du modèle à chaque lot, permet d’améliorer l’apprentissage. Dans l’enseignement mutuel, l’ensemble de pseudo-étiquettes d’un réseau provient du réseau pair. En raison de la nouvelle stratégie d’entraînement proposée, les performances s’améliorent significativement. Des résultats expérimentaux étendus démontrent que notre méthode atteint des performances supérieures à celles des méthodes de pointe, même à des taux d’étiquetage très faibles.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp