HyperAIHyperAI

Command Palette

Search for a command to run...

Amélioration des baselines avec l'apprentissage contrastif par impulsivité

Xinlei Chen; Haoqi Fan; Ross Girshick; Kaiming He

Résumé

L'apprentissage non supervisé contrastif a récemment montré des progrès encourageants, par exemple dans Momentum Contrast (MoCo) et SimCLR. Dans cette note, nous vérifions l'efficacité de deux améliorations de conception de SimCLR en les implémentant dans le cadre de MoCo. Avec des modifications simples apportées à MoCo — à savoir, l'utilisation d'une tête de projection MLP et une augmentation plus importante des données — nous établissons des lignes de base plus solides qui surpassent les performances de SimCLR et n'exigent pas des batchs d'entraînement volumineux. Nous espérons que cela rendra la recherche sur l'apprentissage non supervisé de pointe plus accessible. Le code sera rendu public.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp