在线教程｜不用百亿参数也能跑 Agent！Boss 直聘南北阁实验室开源 Nanbeige4.2-3B，让小模型拥有「大脑」

1 小时前

长文档处理

随着大语言模型向智能体方向演进，工具调用、任务规划、多步骤执行等能力成为刚需。但这类能力通常依赖更大参数规模，随之而来的是显存占用和部署成本的上升，本地运行高性能智能体面临门槛。

Boss 直聘南北阁实验室推出的 Nanbeige4.2-3B 试图打破这一桎梏。该模型基于 Nanbeige4.2-3B-Base 构建，采用 Looped Transformer 架构，通过复用 Transformer 层提升模型容量——在不增加参数量的前提下增强表现。模型仅含 30 亿非嵌入参数（总参数量约 40 亿），却在多个 Agent 基准测试中超越更大规模对手，包括 Qwen3.5-9B 和 Gemma4-12B 。

具体来看，Nanbeige4.2-3B 在代码智能体任务 SWE-Bench Verified 中取得 63.6 分，在科学推理基准 GPQA-Diamond 中达到 87.4 分。除 Agent 能力外，模型还针对推理场景做了专门优化：支持 Thinking Mode，在数学、代码及科学推理任务中保持竞争力。上下文窗口最长支持 262K tokens，覆盖长文档、多轮对话与复杂工作流。

「Nanbeige4.2-3B：紧凑型智能体模型」已在 HyperAI（hyper.ai）上线，帮助开发者以更低成本探索本地智能体应用，感兴趣的小伙伴快来一键探索吧！⬇️

在线运行：https://go.hyper.ai/HAMqL

demo 示例

更多在线教程：

https://hyper.ai/notebooks

Demo 运行

1 、进入 hyper.ai 首页后，选择「教程」页面，或点击「查看更多教程」，选择「Nanbeige4.2-3B：紧凑型智能体模型」，点击「运行此教程」。

2. 页面跳转后，点击右上角「Clone」，将该教程克隆至自己的容器中。

注：页面右上角支持切换语言，目前提供中文及英文两种语言，本教程文章以英文为例进行步骤展示。

3. 选择「NVIDIA RTX 5090」以及「PyTorch」镜像，点击「Continue job execution（继续执行）」。

4. 等待分配资源，当状态变为「Running（运行中）」后，点击「Open Workspace」进入 Jupyter Workspace 。

效果展示

1. 页面跳转后，点击左侧 README 文件，进入后点击上方 Run（运行）。

2. 待运行完成，根据 README 提示，在终端输入代码启动 Open WebUI 后，即可点击右侧 API 地址跳转至 demo 页面。