Liquid AI accélère les modèles VLM avec DSpark
Liquid AI a publié en septembre 2026 le modèle expérimental LFM2.5-VL-DSpark, conçu pour accélérer l'exécution de ses modèles de vision et de langage via le décodage spéculatif. Cette approche vise à améliorer significativement la vitesse d'inférence du modèle LFM2.5-VL-3B sans altérer la qualité des résultats générés. Le nouveau module drafteur s'intègre au pipeline existant en capturant les états internes du modèle principal à des couches stratégiques. Il projette simultanément les tokens visuels et textuels dans un espace de représentation commun, permettant de générer des blocs de tokens candidats en parallèle. Avec environ 280 millions de paramètres, il n'alourdit la charge mémoire que de 8,9 %. L'entraînement repose sur des données multimodales ciblées, optimisées pour les tâches de compréhension visuelle et de raisonnement complexe. Les tests d'inférence, menés sur des architectures mobiles Apple et des serveurs équipés du GPU NVIDIA H100, démontrent des gains substantiels. Le décodage pur est jusqu'à vingt fois plus rapide sur GPU, et de deux à trois fois sur matériel embarqué. La latence globale affiche une amélioration comprise entre 1,3 et 2,6 fois selon les scénarios. Le module est compatible avec les principaux frameworks d'inférence, dont llama.cpp, SGLang et MLX-VLM, et garantit une sortie exacte en validant systématiquement chaque token proposé par le modèle principal. Malgré ces performances, l'entreprise souligne une limite fondamentale imposée par la loi d'Amdahl. Le décodage spéculatif n'accélère que la phase de génération de tokens, laissant intacte la latence de l'encodeur visuel et du préremplissage. Sur les appareils à ressources limitées, où le traitement des images et l'initialisation du modèle représentent une part majoritaire du temps de calcul, les gains globaux restent modérés. Cette contrainte technique rappelle que l'accélération par spéculation nécessite une optimisation globale du pipeline pour être pleinement efficace. Disponible dès à présent sur Hugging Face aux formats Safetensors et GGUF, LFM2.5-VL-DSpark s'inscrit dans la stratégie de Liquid AI visant à démocratiser le déploiement de l'intelligence artificielle multimodale sur tous les types de matériel. En offrant aux développeurs une option de déploiement léger et performante, le modèle ouvre la voie à des applications plus réactives sur mobile, sur les serveurs et dans les environnements à faible consommation énergétique.
