推理云月吸金55亿美元,AI基建新中间层崛起
随着人工智能从研发训练迈向规模化生产,AI算力需求结构正发生根本性转变。行业预测至2026年,推理环节将占据约三分之二的算力消耗,直接催生出一类全新的AI基础设施品类——推理云服务。近期,该赛道呈现爆发态势,单月吸引超55亿美元资本涌入。 作为赛道头部企业,总部位于旧金山湾区的Fireworks于7月16日宣布完成15亿美元D轮融资,由英伟达参投,投后估值达175亿美元。公司年化收入已突破10亿美元,日均处理Token超40万亿。创始人林乔凭借在Meta主导深度学习框架的深厚背景,前瞻押注推理市场。公司通过自研优化引擎与多云算力调度,为企业提供开源及私有模型部署服务,将推理延迟大幅降低,并将定价定为同等闭源模型的十分之一至五分之一。 开源模型的崛起降低了企业使用门槛,促使资本密集布局。除Fireworks外,Baseten、Groq及硅基流动等均已获巨额融资。尽管推理云服务正分流模型厂商利润,但受限于GPU租赁成本与价格战,行业毛利率普遍承压。未来,企业需通过软件优化构筑壁垒或向底层硬件延伸。推理云的兴起标志着AI基础设施正分化出关键中间层,推动行业竞争从单一模型性能转向多维度的工程化能力。
