HyperAI超神经

vLLM+Open WebUI 部署 II-Medical-8B 医学推理大模型

一、教程简介

II-Medical-8B 是智能互联网公司新开发的先进大型语言模型。专为增强医疗推理的 AI 能力而设计。它在先前的 II-Medical-7B-Preview 基础上进行了重大改进,显著提升了医疗问答能力。该模型基于 Qwen/Qwen3-8B 模型,通过使用特定于医疗领域的推理数据集进行 SFT(监督微调)以及在硬推理数据集上训练 DAPO(一种可能的优化方法)来优化模型性能。相关论文成果为「1.4 Million Open-Source Distilled Reasoning Dataset to Empower Large Language Model Training」。

本教程采用资源为单卡 RTX 4090 。

二、项目示例

三、运行步骤

1. 启动容器后点击 API 地址即可进入 Web 界面

若不显示「模型」,这表示模型正在初始化,由于模型较大,请等待约 1-2 分钟后刷新页面。

2. 进入网页后,即可与模型展开对话

使用步骤

四、交流探讨

🖌️ 如果大家看到优质项目,欢迎后台留言推荐!另外,我们还建立了教程交流群,欢迎小伙伴们扫码备注【SD 教程】入群探讨各类技术问题、分享应用效果↓

引用信息

感谢 Github 用户 xxxjjjyyy1  对本教程的部署。本项目引用信息如下:

@misc{2025II-Medical-8B,
      title={II-Medical-8B: Medical Reasoning Model}, 
      author={Intelligent Internet},
      year={2025}
}