HyperAIHyperAI

Command Palette

Search for a command to run...

Apprentissage auto-supervisé de représentations invariantes par rapport aux tâches prétextes

Ishan Misra Laurens van der Maaten

Résumé

L'objectif de l'apprentissage auto-supervisé à partir d'images consiste à construire des représentations d'images significatives sur le plan sémantique à l'aide de tâches prétextes ne nécessitant pas d'annotations sémantiques pour un grand ensemble d'images d'entraînement. De nombreuses tâches prétextes conduisent à des représentations covariantes par rapport aux transformations d'images. Nous soutenons au contraire que des représentations sémantiques devraient être invariants face à de telles transformations. Plus précisément, nous proposons une méthode nommée Apprentissage de Représentations Invariantes par Tâches Prétextes (PIRL, prononcé « pearl »), qui apprend des représentations invariants à partir de tâches prétextes. Nous utilisons PIRL avec une tâche prétexte couramment employée, consistant à résoudre des puzzles de morceaux d'images. Nous constatons que PIRL améliore considérablement la qualité sémantique des représentations d'images apprises. Notre approche établit un nouveau record sur plusieurs benchmarks populaires pour l'apprentissage auto-supervisé. Malgré son caractère non supervisé, PIRL surpasse l'apprentissage préalable supervisé dans la construction de représentations d'images pour la détection d'objets. Globalement, nos résultats démontrent le potentiel de l'apprentissage auto-supervisé de représentations d'images possédant de bonnes propriétés d'invariance.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Apprentissage auto-supervisé de représentations invariantes par rapport aux tâches prétextes | Articles | HyperAI