一键部署 Qwen3-30B-A3B-Instruct-2507

一、教程简介

Qwen3-30B-A3B-Instruct-2507 是由阿里巴巴旗下通义万相实验室于 2025 年 7 月 29 日推出的大语言模型。此模型是 Qwen3-30B-A3B 的非思考模式的更新版本。它的亮点在于仅激活 30 亿（3B）参数就能展现出与谷歌的 Gemini 2.5-Flash（非思考模式）和 OpenAI 的 GPT-4o 相媲美的超强实力，这标志着在模型效率和性能优化上的一次重大突破。相关论文成果为「Qwen3 Technical Report」。

本教程采用资源为双卡 RTX A6000 。

二、项目示例

三、运行步骤

1. 启动容器后点击 API 地址即可进入 Web 界面

2. 进入网页后，即可与模型展开对话

若不显示「Model」，这表示模型正在初始化，由于模型较大，请等待约 2-3 分钟后刷新页面。

使用步骤

四、交流探讨

🖌️ 如果大家看到优质项目，欢迎后台留言推荐！另外，我们还建立了教程交流群，欢迎小伙伴们扫码备注【SD 教程】入群探讨各类技术问题、分享应用效果↓

引用信息

本项目引用信息如下：

@misc{qwen3technicalreport,
      title={Qwen3 Technical Report}, 
      author={Qwen Team},
      year={2025},
      eprint={2505.09388},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2505.09388}, 
}