Affiner un réseau profond entraîné avec la perte croisée standard est une référence solide pour l'apprentissage peu supervisé. Lorsqu'il est affiné de manière transductive, cette approche surpasse l'état de l'art actuel sur des jeux de données standards tels que Mini-ImageNet, Tiered-ImageNet, CIFAR-FS et FC-100, en utilisant les mêmes hyperparamètres. La simplicité de cette méthode nous permet d'obtenir pour la première fois des résultats d'apprentissage peu supervisé sur le jeu de données ImageNet-21k. Nous constatons qu'utiliser un grand nombre de classes d'entraînement métadonnées conduit à de hautes précisions en apprentissage peu supervisé, même pour un grand nombre de classes peu supervisées. Nous ne prétendons pas que notre approche constitue la solution définitive à l'apprentissage peu supervisé, mais nous l'utilisons simplement pour mettre en évidence les limites des benchmarks actuels et des protocoles d'apprentissage peu supervisé. Nous menons des études approfondies sur des jeux de données standards afin de proposer une métrique qui quantifie le « degré de difficulté » d'un épisode d'apprentissage peu supervisé. Cette métrique peut être utilisée pour rapporter les performances des algorithmes d'apprentissage peu supervisé de manière plus systématique.