HyperAIHyperAI

Command Palette

Search for a command to run...

Block Flow: Lernen von geradlinigem Fluss auf Datensblöcken

Zibin Wang Zhiyuan Ouyang Xiangyun Zhang

Zusammenfassung

Flow-Matching-Modelle bieten einen leistungsfähigen Rahmen für vielfältige Anwendungen und ermöglichen eine effiziente Stichprobenziehung sowie eine flexible Modellierung von Wahrscheinlichkeitspfaden. Diese Modelle zeichnen sich durch Flüsse mit geringer Krümmung in den gelernten generativen Trajektorien aus, was zu einer reduzierten Abbruchfehler in jeder Stichprobenstufe führt. Um die Krümmung weiter zu verringern, schlagen wir Block-Matching vor. Dieser neuartige Ansatz nutzt Label-Informationen, um die Datenausbreitung in Blöcke zu partitionieren und diese mit einer Prior-Verteilung zu matchen, die ebenfalls mit denselben Label-Informationen parametrisiert ist, wodurch geradere Flüsse gelernt werden. Wir zeigen, dass die Varianz der Prior-Verteilung die obere Schranke der Krümmung der Vorwärts-Trajektorien in Flow-Matching-Modellen steuern kann. Durch die Entwicklung flexibler Regularisierungsstrategien zur Anpassung dieser Varianz erreichen wir eine optimale Generationsleistung und balancieren effektiv die Abwägung zwischen der Erhaltung der Vielfalt der generierten Proben und der Minimierung numerischer Löserfehler. Unsere Ergebnisse demonstrieren eine konkurrenzfähige Leistung im Vergleich zu Modellen mit vergleichbarer Parameteranzahl. Der Quellcode ist unter \url{https://github.com/wpp13749/block_flow} verfügbar.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Block Flow: Lernen von geradlinigem Fluss auf Datensblöcken | Paper | HyperAI