HyperAIHyperAI

Command Palette

Search for a command to run...

Si votre distribution de données évolue, utilisez l'apprentissage auto-entraîné

Evgenia Rusak Steffen Schneider George Pachitariu Luisa Eck Peter Gehler Oliver Bringmann Wieland Brendel Matthias Bethge

Résumé

Nous démontrons que des techniques d’apprentissage auto-supervisé telles que la minimisation d’entropie et la pseudo-étiquetage sont simples et efficaces pour améliorer les performances d’un modèle de vision par ordinateur déployé en présence de décalages de domaine systématiques. Nous menons une large gamme d’expériences à grande échelle et montrons des améliorations cohérentes, indépendamment de l’architecture du modèle, de la technique de pré-entraînement ou du type de décalage de distribution. Par ailleurs, l’apprentissage auto-supervisé s’avère facile à mettre en œuvre en pratique, car il ne nécessite ni connaissance ni accès aux données ou au schéma d’entraînement d’origine, est robuste aux choix des hyperparamètres, se met facilement en œuvre et requiert seulement quelques époques d’adaptation. Cela en fait une approche particulièrement attrayante pour tout praticien appliquant des algorithmes d’apprentissage automatique dans des contextes réels. Nous présentons des résultats d’adaptation de pointe sur CIFAR10-C (8,5 % d’erreur), ImageNet-C (22,0 % de mCE), ImageNet-R (17,4 % d’erreur) et ImageNet-A (14,8 % d’erreur), étudions théoriquement la dynamique des méthodes d’adaptation auto-supervisée, et proposons un nouveau jeu de données de classification (ImageNet-D), qui constitue un défi même en présence d’adaptation.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp