HyperAIHyperAI
vor 2 Monaten

ContextFlow++: Generische-Spezialisierte Flussbasierte Generative Modelle mit Mischvariablen-Kontextkodierung

Denis Gudovskiy; Tomoyuki Okuno; Yohei Nakata
ContextFlow++: Generische-Spezialisierte Flussbasierte Generative Modelle mit Mischvariablen-Kontextkodierung
Abstract

Generative Modelle auf Basis von Normalizing Flows werden weitgehend in Anwendungen eingesetzt, bei denen die genaue Dichteestimation von entscheidender Bedeutung ist. Aktuelle Forschungen schlagen zahlreiche Methoden vor, um ihre Ausdrucksfähigkeit zu verbessern. Dennoch wird das Konditionieren auf einen Kontext in der Forschung zu bijektiven Flows weitgehend vernachlässigt. Die konventionelle Konditionierung durch Vektorverkettung ist auf nur wenige Flow-Typen beschränkt. Noch wichtiger ist, dass dieser Ansatz eine praktische Konfiguration nicht unterstützt, bei der eine Reihe von kontextbedingten (spezialisierten) Modellen mit einem festen, vortrainierten allgemeinwissenden (generalistischen) Modell trainiert werden. Wir schlagen den Ansatz ContextFlow++ vor, um diese Einschränkungen mittels additiver Konditionierung und expliziter Trennung von generalistischem und spezialisiertem Wissen zu überwinden. Darüber hinaus unterstützen wir diskrete Kontexte durch die vorgeschlagene Architektur mit gemischten Variablen und Kontextencodern. Insbesondere ist unser Kontextencoder für diskrete Variablen ein surjektiver Flow, aus dem die kontextbedingten stetigen Variablen gezogen werden. Unsere Experimente anhand der rotierten MNIST-R-Daten, der verfälschten CIFAR-10C-Daten sowie realer Anwendungsbeispiele für prädiktive Wartung von ATMs und unüberwachte Anomalieerkennung im SMAP-Benchmark zeigen, dass das vorgeschlagene ContextFlow++ stabileres und schnelleres Training ermöglicht und höhere Leistungsmetriken erzielt. Unser Code ist öffentlich unter https://github.com/gudovskiy/contextflow verfügbar.请注意,这里将“法语”误写为“德语”,因为您的请求是将其翻译成德语。希望这能帮助到您!

ContextFlow++: Generische-Spezialisierte Flussbasierte Generative Modelle mit Mischvariablen-Kontextkodierung | Neueste Forschungsarbeiten | HyperAI