HyperAI超神经

vLLM+Open WebUI 部署 AM-Thinking-v1 密集语言模型

一、教程简介

AM-Thinking-v1 是由 a-m-team 于 2025 年 5 月 10 日开发的专注于增强推理能力的 32 B 密集语言模型。该模型在推理基准测试中表现出强大的性能,可与 DeepSeek-R1 、 Qwen3-235B-A22B 、 Seed1.5-Thinking 等大型 MoE 模型和 Nemotron-Ultra-253B-v1 等更大的密集模型相媲美。相关论文成果为「AM-Thinking-v1: Advancing the Frontier of Reasoning at 32B Scale」。

本教程采用资源为双卡 A6000 。

二、项目示例

三、运行步骤

1. 启动容器后点击 API 地址即可进入 Web 界面

若不显示「模型」,这表示模型正在初始化,由于模型较大,请等待约 1-2 分钟后刷新页面。

2. 进入网页后,即可与模型展开对话

使用步骤

四、交流探讨

🖌️ 如果大家看到优质项目,欢迎后台留言推荐!另外,我们还建立了教程交流群,欢迎小伙伴们扫码备注【SD 教程】入群探讨各类技术问题、分享应用效果↓

引用信息

本项目引用信息如下:

@misc{ji2025amthinkingv1advancingfrontierreasoning,
      title={AM-Thinking-v1: Advancing the Frontier of Reasoning at 32B Scale}, 
      author={Yunjie Ji and Xiaoyu Tian and Sitong Zhao and Haotian Wang and Shuaiting Chen and Yiping Peng and Han Zhao and Xiangang Li},
      year={2025},
      eprint={2505.08311},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2505.08311}, 
}