LEEP : Une nouvelle mesure pour évaluer la transférabilité des représentations apprises

Nous présentons une nouvelle mesure pour évaluer la transférabilité des représentations apprises par les classifieurs. Notre mesure, le Log Expected Empirical Prediction (LEEP), est simple et facile à calculer : lorsqu'on dispose d'un classifieur formé sur un ensemble de données source, elle n'exige qu'une seule passe du jeu de données cible à travers ce classifieur. Nous analysons les propriétés du LEEP de manière théorique et démontrons son efficacité empiriquement. Notre analyse montre que le LEEP peut prédire les performances et la vitesse de convergence des méthodes d'apprentissage par transfert et d'apprentissage méta-transfert, même pour des données peu nombreuses ou déséquilibrées. De plus, le LEEP surpasses les mesures de transférabilité récemment proposées telles que l'entropie conditionnelle négative et les scores H. Notamment, lors du transfert d'ImageNet vers CIFAR100, le LEEP peut atteindre jusqu'à 30 % d'amélioration par rapport à la meilleure méthode concurrente en termes de corrélations avec l'exactitude réelle du transfert.