Transformation Autoregressive Netzwerke

Die grundlegende Aufgabe der allgemeinen Dichteabschätzung ( p(x) ) hat das maschinelle Lernen stark interessiert. In dieser Arbeit versuchen wir, Methoden zur Dichteabschätzung systematisch zu charakterisieren. Im Allgemeinen lassen sich die meisten existierenden Methoden in zwei Kategorien einteilen: \textit{a}) autoregressive Modelle zur Schätzung der bedingten Faktoren der Kettenregel, ( p(x_{i} \, | \, x_{i-1}, \ldots) ); oder \textit{b}) nicht-lineare Transformationen von Variablen einer einfachen Basisverteilung. Basierend auf der Analyse der Eigenschaften dieser Kategorien schlagen wir mehrere innovative Methoden für jede Kategorie vor. Zum Beispiel haben wir RNN-basierte Transformationen vorgeschlagen, um nicht-Markow-abhängige Beziehungen zu modellieren. Darüber hinaus zeigen wir durch eine umfassende Studie sowohl an realen als auch synthetischen Daten, dass die gemeinsame Nutzung von Variablentransformationen und autoregressiven bedingten Modellen zu einem erheblichen Leistungsanstieg führt. Wir veranschaulichen die Anwendung unserer Modelle in der Ausreißererkennung und im Bildmodellieren. Abschließend stellen wir einen neuen datengetriebenen Ansatz vor, um eine Familie von Verteilungen zu lernen.