Réseaux Autoregressifs de Transformation

La tâche fondamentale d'estimation de densité générale ( p(x) ) a suscité un vif intérêt dans le domaine de l'apprentissage automatique. Dans ce travail, nous tentons de caractériser systématiquement les méthodes d'estimation de densité. En termes généraux, la plupart des méthodes existantes peuvent être classées en deux catégories : \textit{a}) les modèles autorégressifs pour estimer les facteurs conditionnels de la règle de chaîne, ( p(x_{i} \, | \, x_{i-1}, \ldots) ); ou \textit{b}) les transformations non-linéaires des variables d'une distribution de base simple. Sur la base de l'étude des caractéristiques de ces catégories, nous proposons plusieurs méthodes innovantes pour chacune d'elles. Par exemple, nous avons proposé des transformations basées sur les réseaux neuronaux récurrents (RNN) pour modéliser les dépendances non markoviennes. De plus, à travers une étude exhaustive sur des données réelles et synthétiques, nous montrons que l'utilisation conjointe des transformations de variables et des modèles conditionnels autorégressifs entraîne une amélioration considérable des performances. Nous illustrons l'utilisation de nos modèles dans la détection d'anomalies et la modélisation d'images. Enfin, nous introduisons un cadre novateur basé sur les données pour apprendre une famille de distributions.