Bonsai 27B发布:首款可在手机端运行的270亿级模型
近日,AI 压缩技术公司 PrismML 正式发布 Bonsai 27B 模型。该模型基于 Qwen 3.6 27B 架构打造,是业界首款能在智能手机本地部署的 27B 参数级旗舰多模态大模型。为突破端侧算力与内存瓶颈,PrismML 推出 1-bit 与三元两种量化变体。其中 1-bit 版本体积仅 3.9GB,成功适配 iPhone 17 Pro 等手机;三元版本为 5.9GB,可流畅运行于笔记本。两个版本均采用端到端极低比特量化技术,在完整保留思考推理、多模态理解、工具调用及 26.2 万 Token 上下文的前提下,分别保留基座模型 90% 与 95% 的综合性能,在编程、数学及智能体任务上表现突出。Bonsai 27B 的发布标志着端侧 AI 向长效智能体工作流演进的关键转折。本地部署彻底消除云端延迟与数据隐私风险,使离线计算与私人数据本地推理成为现实。该架构支持云边混合调度,大幅优化智能体系统的运行经济性。模型已基于 Apache 2.0 协议开源,原生支持 Apple MLX 与 NVIDIA CUDA 平台,并开放限时开发者预览 API。PrismML 强调,提升智能密度将定义下一代 AI 竞争格局,Bonsai 27B 成功验证了高能力模型向移动终端下沉的可行性,将加速先进人工智能在日常设备中的普及。
