DLME : Imbriquage Manifolde Local-Plat Profond

L’apprentissage de variétés (Manifold Learning, ML) vise à obtenir une représentation à faible dimension à partir de données à haute dimension. Ce problème est particulièrement difficile sur des jeux de données réels, notamment en cas de sous-échantillonnage, où nous constatons que les méthodes existantes se comportent médiocrement. En général, les méthodes de ML transforment d’abord les données d’entrée en un espace de représentation à faible dimension afin de préserver la structure géométrique des données, puis effectuent des tâches ultérieures dans cet espace. Toutefois, la faible connectivité locale des données sous-échantillonnées dans la première étape, combinée à des objectifs d’optimisation inappropriés dans la seconde, donne lieu à deux problèmes majeurs : une distortion structurelle et une représentation sous-contrainte. Ce papier propose un nouveau cadre de ML nommé Deep Local-flatness Manifold Embedding (DLME) pour résoudre ces difficultés. Le DLME construit des variétés sémantiques grâce à une augmentation de données et surmonte le problème de distortion structurelle en imposant une contrainte de régularité fondée sur une hypothèse de planéité locale de la variété. Pour atténuer le problème de représentation sous-contrainte, nous proposons une fonction de perte dont nous démontrons théoriquement qu’elle favorise une représentation plus adaptée, sous l’hypothèse de planéité locale. Des expériences menées sur trois types de jeux de données (artificiels, biologiques et d’images) et pour diverses tâches ultérieures (classification, clustering, visualisation) montrent que notre méthode DLME surpasser les approches d’état de l’art en ML et en apprentissage contrastif.