LFM2.5-VL-DSpark beschleunigt KI-Visionmodelle

Liquid AI hat mit LFM2.5-VL-DSpark ein spezialisiertes Entwurfsmodell für spekulative Decodierung seines Vision-Language-Modells LFM2.5-VL-3B veröffentlicht. Das Release zielt darauf ab, die Inferenzgeschwindigkeit multimodaler Systeme signifikant zu steigern, ohne die Modellgenauigkeit zu beeinträchtigen oder den Speicherbedarf nennenswert zu erhöhen. Der technische Ansatz projiziert Bildpatches und Texttoken in einen gemeinsamen Repräsentationsraum, sodass der Entwurfsmotor auf identischen Merkmalsvektoren operiert. Basierend auf einem vereinfachten Attention-only-Design umfasst das neue Modul rund 280 Millionen Parameter und vergrößert das Basismodell lediglich um 8,9 Prozent. Das Training erfolgte auf einer gewichteten Mischung aus vision-basierten Fine-Tuning-Daten. Der Algorithmus generiert blockweise Kandidatentokens, die das Zielsystem verifiziert, wodurch exakt die gleichen Ergebnisse wie beim Standardinferenzlauf erzielt werden. Benchmarktests belegen deutliche Beschleunigungen: Auf Apple-Silicon-Chips lässt sich die Dekodiergeschwindigkeit um das 2,3- bis 3,1-fache steigern, während auf NVIDIA-H100-GPUs bis zu 20,4-fache Performancegewinne verzeichnet werden. Die tatsächliche End-to-End-Latenz verbessert sich je nach Hardware und Aufgabentyp um den Faktor 1,3 bis 2,6. Das Framework-Ökosystem unterstützt bereits heute SGLang, llama.cpp und MLX-VLM. Verfügbarkeit bietet Liquid AI das Modell in Safetensors- und GGUF-Formaten über Hugging Face an. Fachleute weisen jedoch auf hardwarebedingte Grenzen der spektralen Beschleunigung hin. Da bei Vision-Language-Modellen die Bildkodierung und der Prefill-Prozess rechenintensiv sind, entfällt ein Großteil der Gesamtberechnungszeit auf Phasen, die von der spekulent Decodierung nicht erfasst werden. Dieses nach dem Gesetz von Amdahl beschriebene Verhalten führt dazu, dass der Nutzen insbesondere auf ressourcenbeschränkten Edge-Geräten moderat ausfällt. Ungeachtet dieser physikalischen Limitationen etabliert LFM2.5-VL-DSpark einen praxisrelevanten Ansatz, um leistungsfähige Multimodal-Modelle effizienter in sowohl Cloud- als auch On-Device-Architekturen zu integrieren und die Skalierbarkeit visueller KI-Systeme voranzutreiben.