Abstract

Wir stellen Lumina-DiMOO vor, ein quelloffenes Grundmodell für nahtlose multimodale Generierung und Verständnis. Lumina-DiMOO unterscheidet sich von früheren integrierten Modellen durch die Verwendung eines vollständig diskreten Diffusionsmodellierungsansatzes zur Verarbeitung von Eingaben und Ausgaben über verschiedene Modalitäten hinweg. Dieser innovative Ansatz ermöglicht es Lumina-DiMOO, eine höhere Sampling-Effizienz im Vergleich zu bisherigen autoregressiven (AR) oder hybriden AR-Diffusion-Paradigmen zu erreichen, und unterstützt gleichzeitig eine breite Palette multimodaler Aufgaben, darunter Text-zu-Bild-Generierung, Bild-zu-Bild-Generierung (z. B. Bildbearbeitung, themenbasierte Generierung und Bild-Inpainting) sowie Bildverstehen. Lumina-DiMOO erzielt Spitzenleistungen auf mehreren Benchmark-Datenbanken und übertrifft damit bestehende quelloffene integrierte multimodale Modelle. Um die weitere Entwicklung in der Forschung zu multimodalen Systemen und diskreten Diffusionsmodellen zu fördern, stellen wir unseren Code sowie die Trainingscheckpoint-Dateien der Gemeinschaft zur Verfügung. Projektseite: https://synbol.github.io/Lumina-DiMOO.