Réexaminer le réglage fin pour l'apprentissage par few-shot

L'apprentissage à faibles échantillons (few-shot learning) est le processus d'apprentissage de nouvelles classes en utilisant seulement quelques exemples, et il reste une tâche difficile dans le domaine de l'apprentissage automatique. De nombreux algorithmes sophistiqués d'apprentissage à faibles échantillons ont été proposés, basés sur l'idée que les réseaux peuvent facilement surapprendre (overfit) aux nouveaux exemples s'ils sont simplement affinés (fine-tuned) avec seulement quelques exemples. Dans cette étude, nous montrons que dans l'ensemble de données mini-ImageNet couramment utilisé à faible résolution, la méthode d'affinage atteint une précision supérieure à celle des algorithmes d'apprentissage à faibles échantillons courants pour la tâche 1-shot et presque la même précision que celle de l'algorithme de pointe pour la tâche 5-shot. Nous évaluons ensuite notre méthode avec des tâches plus pratiques, à savoir les tâches mono-domaine et multi-domaine à haute résolution. Pour ces deux tâches, nous démontrons que notre méthode atteint une précision supérieure à celle des algorithmes d'apprentissage à faibles échantillons courants. Nous analysons en outre les résultats expérimentaux et montrons que : 1) le processus de réentraînement peut être stabilisé en utilisant un taux d'apprentissage faible, 2) l'utilisation d'optimiseurs de gradient adaptatifs pendant l'affinage peut augmenter la précision des tests, et 3) la précision des tests peut être améliorée en mettant à jour l'ensemble du réseau lorsque le décalage de domaine entre les classes de base et les nouvelles classes est important.