开源项目Jeff：Qwen3.5与Gemma 4零样本分类微调

近期，开源社区发布独立项目Jeff，该工程基于Qwen3.5与Gemma 4架构进行深度微调，专为本地化零样本分类与决策任务打造。Jeff定位为轻量级高速决策引擎，旨在无缝嵌入开发者现有代码流。与传统生成式大模型不同，Jeff摒弃文本生成功能，仅通过单次前向传播输出各选项的校准概率。实测数据显示，在RTX PRO 6000与Apple M4 Max等本地设备上，其单次决策延迟仅徘徊于22至29毫秒之间。 项目全链路采用本地化训练管线，依托开源模型生成合成数据并完成参数优化，彻底摆脱对云端算力的依赖。多项基准测试表明，Jeff在分类与事实核查等任务中表现稳健，综合得分匹敌甚至超越部分参数量更大的模型，但在高难度推理场景下则明确遵循轻量级定位。开发团队还借助独立游戏环境验证了其零样本决策泛化能力。目前，Jeff已开放0.8B、2B及Gemma 4等模型权重，采用Apache 2.0协议，配套训练代码遵循MIT协议。该成果的发布为边缘侧AI部署与低延迟决策场景提供了高效替代方案，大幅降低了垂直领域分类任务的算力门槛与集成成本。