HyperAIHyperAI
vor 17 Tagen

Block Flow: Lernen von geradlinigem Fluss auf Datensblöcken

Zibin Wang, Zhiyuan Ouyang, Xiangyun Zhang
Block Flow: Lernen von geradlinigem Fluss auf Datensblöcken
Abstract

Flow-Matching-Modelle bieten einen leistungsfähigen Rahmen für vielfältige Anwendungen und ermöglichen eine effiziente Stichprobenziehung sowie eine flexible Modellierung von Wahrscheinlichkeitspfaden. Diese Modelle zeichnen sich durch Flüsse mit geringer Krümmung in den gelernten generativen Trajektorien aus, was zu einer reduzierten Abbruchfehler in jeder Stichprobenstufe führt. Um die Krümmung weiter zu verringern, schlagen wir Block-Matching vor. Dieser neuartige Ansatz nutzt Label-Informationen, um die Datenausbreitung in Blöcke zu partitionieren und diese mit einer Prior-Verteilung zu matchen, die ebenfalls mit denselben Label-Informationen parametrisiert ist, wodurch geradere Flüsse gelernt werden. Wir zeigen, dass die Varianz der Prior-Verteilung die obere Schranke der Krümmung der Vorwärts-Trajektorien in Flow-Matching-Modellen steuern kann. Durch die Entwicklung flexibler Regularisierungsstrategien zur Anpassung dieser Varianz erreichen wir eine optimale Generationsleistung und balancieren effektiv die Abwägung zwischen der Erhaltung der Vielfalt der generierten Proben und der Minimierung numerischer Löserfehler. Unsere Ergebnisse demonstrieren eine konkurrenzfähige Leistung im Vergleich zu Modellen mit vergleichbarer Parameteranzahl. Der Quellcode ist unter \url{https://github.com/wpp13749/block_flow} verfügbar.

Block Flow: Lernen von geradlinigem Fluss auf Datensblöcken | Neueste Forschungsarbeiten | HyperAI