Apprentissage Actif pour les Réseaux de Neurones Convolutifs : Une Approche par Ensemble de Noyau

Les réseaux de neurones convolutifs (CNNs) ont été appliqués avec succès à de nombreuses tâches de reconnaissance et d'apprentissage en utilisant une recette universelle : l'entraînement d'un modèle profond sur un très grand ensemble de données supervisées. Cependant, cette approche est plutôt restrictive en pratique, car la collecte d'un grand nombre d'images étiquetées est très coûteuse. Une façon d'alléger ce problème consiste à trouver des méthodes intelligentes pour sélectionner les images à étiqueter dans une collection très importante (c'est-à-dire l'apprentissage actif).Notre étude empirique suggère que de nombreuses heuristiques d'apprentissage actif décrites dans la littérature ne sont pas efficaces lorsqu'elles sont appliquées aux CNNs en mode par lots. Inspirés par ces limitations, nous définissons le problème d'apprentissage actif comme une sélection de noyau (core-set selection), c'est-à-dire choisir un ensemble de points tels qu'un modèle appris sur ce sous-ensemble soit compétitif pour les points de données restants. Nous présentons également un résultat théorique caractérisant la performance de tout sous-ensemble sélectionné en utilisant la géométrie des points de données. En tant qu'algorithme d'apprentissage actif, nous choisissons le sous-ensemble qui est censé donner le meilleur résultat selon notre caractérisation. Nos expériences montrent que la méthode proposée surpasse considérablement les approches existantes dans les expériences de classification d'images, avec une marge importante.