HyperAIHyperAI

Command Palette

Search for a command to run...

14 小时前
LLM
生成式 AI

法国初创ZML发布免费产品,跨芯片加速AI推理

总部位于巴黎的法国AI初创公司ZML近日推出免费大语言模型推理服务器LLMD,旨在打破底层硬件生态壁垒,实现多芯片平台的高效兼容。该产品全面支持英伟达、AMD、谷歌TPU、苹果Metal及英特尔Arc等主流与新兴算力芯片,可将各类开源大模型推理速度逼近硬件极限,部分场景性能甚至超越原生驱动。 ZML创始人Steeve Morin表示,随着AI深度融入企业应用,推理优化已成为超越模型训练的核心瓶颈。传统软硬件耦合导致严重的供应商锁定与高昂算力成本。LLMD通过标准化软件接口,赋予企业灵活调度异构算力的权限,在显著降低能耗与部署门槛的同时,为欧洲本土新兴AI芯片厂商提供底层协同优化的技术路径。 该项目获图灵奖得主杨立昆背书,二十人团队凭借前Zenly核心高管的履历,已获2VC、Kima Ventures等机构两千万美元融资。不同于竞品聚焦单一场景,ZML正与芯片原厂开展硅片级联合设计。尽管LLMD暂未开源且采取先免费收集数据、后逐步商业化的策略,但已吸引Docker创始人等业界资本关注。此举标志着欧洲AI生态正摆脱对单一硬件巨头的路径依赖,加速构建自主可控的异构算力基础设施。

相关链接