LFM2.5-VL-DSpark加速视觉语言模型推理

近日，Liquid AI正式推出面向视觉语言模型的LFM2.5-VL-DSpark推测解码草案模型。该模型旨在通过推测解码技术，在几乎不增加显存占用与模型参数的前提下，显著提升推理速度。技术上，DSpark架构采用四层简化注意力网络，参数量仅约2.8亿，使基座模型规模扩张不足9%。其核心机制在于将图像块与文本词元映射至统一表征空间，通过捕获目标模型固定层级的隐藏状态来生成候选词块，且推理算法与文本模型保持一致。 该草案模型已全面兼容llama.cpp、MLX-VLM与SGLang三大主流推理框架。基准测试显示，在Apple M5 Max与M3 Ultra芯片上，模型解码速度最高提升3.13倍，端到端延迟显著缩短；在NVIDIA H100 GPU环境下，解码性能飙升最高达20.4倍，端到端响应提速逾1.6倍。 不过，研究团队指出，受阿姆达尔定律制约，推测解码仅作用于生成阶段，无法加速视觉编码器与前缀处理过程。在边缘设备上，由于前缀处理耗时占据主导，整体端到端加速效果较解码阶段增幅更为有限。目前，该模型已在Hugging Face平台提供Safetensors与GGUF格式下载，进一步推动了视觉语言模型在本地化与边缘计算场景的高效部署。