La perte de groupe pour l'apprentissage profond de métriques

L’apprentissage métrique profond a permis des résultats remarquables sur des tâches telles que le regroupement (clustering) et la récupération d’images en exploitant les réseaux de neurones pour obtenir des embeddings de caractéristiques hautement discriminants, pouvant être utilisés pour regrouper des échantillons selon différentes classes. De nombreuses recherches se sont concentrées sur la conception de fonctions de perte intelligentes ou de stratégies d’extraction de données pour l’entraînement de ces réseaux. La plupart des méthodes ne considèrent que des paires ou des triplets d’échantillons au sein d’un mini-batch pour calculer la fonction de perte, qui repose généralement sur la distance entre les embeddings. Nous proposons une nouvelle fonction de perte, appelée Group Loss, fondée sur une méthode de propagation de labels différentiable, qui impose une similarité entre les embeddings de tous les échantillons appartenant à un même groupe, tout en favorisant simultanément des régions à faible densité entre les points de données appartenant à des groupes différents. Guidée par l’hypothèse de lissité selon laquelle « des objets similaires doivent appartenir au même groupe », la fonction de perte proposée entraîne le réseau de neurones pour une tâche de classification, en imposant une étiquetage cohérent entre les échantillons d’une même classe. Nous démontrons des résultats de pointe sur le clustering et la récupération d’images sur plusieurs jeux de données, et mettons en évidence le potentiel de notre méthode lorsqu’elle est combinée à d’autres techniques, telles que les ensembles (ensembles).