Apprentissage de représentations profondes parcimonieuses

Dans cet article, nous visons à faciliter la généralisation des réseaux profonds tout en assurant l'interprétabilité des représentations apprises. À cette fin, nous proposons une régularisation fondée sur le regroupement (clustering) qui encourage des représentations parcimonieuses. Notre objectif, inspiré de la méthode k-means, est facile à optimiser et très souple, permettant de supporter diverses formes de clustering, notamment le clustering d'échantillons, le clustering spatial ainsi que le co-clustering. Nous démontrons l'efficacité de notre approche sur des tâches d'apprentissage non supervisé, de classification, de catégorisation fine et d'apprentissage zéro-shot.