HyperAIHyperAI

Command Palette

Search for a command to run...

Iterativer neuronaler autoregressiver Verteilungsschätzer NADE-k

Kyunghyun Cho Yao Li Yoshua Bengio Tapani Raiko

Zusammenfassung

Die Schätzung der neuronalen autoregressiven Dichte (NADE) kann als die Durchführung eines Schritts der probabilistischen Inferenz bei fehlenden Werten in Daten interpretiert werden. Wir schlagen ein neues Modell vor, das dieses Inferenzschema auf mehrere Schritte erweitert und argumentieren, dass es einfacher ist, ein Modell zu lernen, das eine Rekonstruktion über kkk Schritte verbessert, als ein Modell zu lernen, das die Rekonstruktion in einem einzigen Inferenzschritt vollzieht. Das vorgeschlagene Modell ist ein unsupervisionierter Baustein für tiefe Lernverfahren, der die vorteilhaften Eigenschaften von NADE und multi-prädiktiver Trainingsstrategie vereint: (1) Die Test-Wahrscheinlichkeit kann analytisch berechnet werden, (2) es ist einfach, unabhängige Stichproben aus dem Modell zu generieren, und (3) es nutzt einen Inferenzmotor, der eine Obermenge der Variationalen Inferenz für Boltzmann-Maschinen darstellt. Das vorgeschlagene NADE-kkk erzielt Ergebnisse, die mit dem Stand der Technik bei der Dichteschätzung auf den zwei getesteten Datensätzen konkurrieren.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp