Perte d'apprentissage pour l'apprentissage actif

Les performances des réseaux de neurones profonds s'améliorent avec plus de données annotées. Le problème est que le budget alloué à l'annotation est limité. Une solution à cela est l'apprentissage actif, où un modèle demande à un humain d'annoter les données qu'il perçoit comme incertaines. De nombreuses méthodes récentes ont été proposées pour appliquer l'apprentissage actif aux réseaux profonds, mais la plupart sont soit spécifiques à leurs tâches cibles, soit inefficaces sur le plan computationnel pour les grands réseaux. Dans cet article, nous proposons une nouvelle méthode d'apprentissage actif qui est simple et indépendante des tâches, et qui fonctionne efficacement avec les réseaux profonds. Nous ajoutons un petit module paramétrique, appelé « module de prédiction de la perte », au réseau cible, et nous l'apprenons à prédire les pertes des entrées non étiquetées. Ensuite, ce module peut suggérer des données que le modèle cible est susceptible de classer incorrectement. Cette méthode est indépendante des tâches car les réseaux apprennent à partir d'une seule perte quel que soit la tâche cible. Nous validons rigoureusement notre méthode par le biais de la classification d'images, de la détection d'objets et de l'estimation de la posture humaine, en utilisant les architectures de réseau récentes. Les résultats montrent que notre méthode surpasse constamment les méthodes précédentes dans ces tâches.