HyperAIHyperAI
il y a 2 mois

Plongements de Poincaré pour l'apprentissage de représentations hiérarchiques

Maximilian Nickel; Douwe Kiela
Plongements de Poincaré pour l'apprentissage de représentations hiérarchiques
Résumé

L'apprentissage de représentations est devenu une approche inestimable pour l'analyse de données symboliques telles que du texte et des graphes. Cependant, bien que les ensembles de données symboliques complexes présentent souvent une structure hiérarchique latente, les méthodes d'avant-garde apprennent généralement des plongements dans des espaces vectoriels euclidiens, qui ne prennent pas en compte cette propriété. À cet égard, nous introduisons une nouvelle approche pour l'apprentissage de représentations hiérarchiques de données symboliques en les plongeant dans un espace hyperbolique -- ou plus précisément dans une boule de Poincaré n-dimensionnelle. Grâce à la géométrie hyperbolique sous-jacente, cela nous permet d'apprendre des représentations frugales des données symboliques en capturant simultanément la hiérarchie et la similarité. Nous présentons un algorithme efficace pour l'apprentissage des plongements basé sur l'optimisation riemannienne et montrons expérimentalement que les plongements de Poincaré surpassent considérablement les plongements euclidiens sur des données présentant des hiérarchies latentes, tant en termes de capacité de représentation qu'en termes de capacité de généralisation.

Plongements de Poincaré pour l'apprentissage de représentations hiérarchiques | Articles de recherche récents | HyperAI