Command Palette
Search for a command to run...
在线教程|9B 小模型也能复杂推理,基于 Qwen3.5-9B,Qwythos 融合 Claude 推理经验实现能力跃升

不是所有场景都需要千亿参数,但几乎所有场景都需要「会推理」的模型。如何让更小、更易部署的模型具备更强的推理能力、长上下文理解能力以及工具调用能力,成为开源社区探索的重要方向。
针对小模型复杂任务处理能力不足的问题,Empero 开源了 Qwythos-9B-Claude-Mythos-5-1M,一款基于 Qwen3.5-9B 打造的推理增强语言模型。该模型通过超过 5 亿 Token 的高质量 Claude Mythos 和 Claude Fable 推理轨迹数据进行后训练,在保持 90 亿参数规模的同时,提升模型在复杂推理任务中的表现。
相比基础模型 Qwen3.5-9B,Qwythos 在多个评测中实现显著提升,其中 MMLU 提升 34 分,gsm8k-strict 数学推理提升 30 分,证明了小参数模型同样能通过高质量推理数据实现能力跃升。
除了推理能力优化,Qwythos 还面向 AI Agent 场景进行了增强。模型支持基于 Qwen3.5 规范的原生工具调用能力,可连接外部工具执行复杂任务;同时通过 YaRN RoPE scaling 技术支持 100 万 Token 超长上下文,能够处理长文档、代码库等复杂信息。此外,Qwythos 继承了 Qwen3.5-9B 的多模态视觉能力,可通过 mmproj 模块支持图像理解,进一步拓展模型在多模态 Agent 等场景中的应用。
Qwythos 的发布为小模型的发展打开了新思路:通过高质量数据、推理训练和能力优化,小参数模型也能突破规模限制,为低成本、高效率的 AI 应用提供新的可能。
为了方便开发者快速体验 Qwythos,HyperAI(hyper.ai)已整理相关模型资源,帮助开发者一键完成模型部署,快速上手推理测试与 Agent 开发。⬇️
在线运行:https://go.hyper.ai/25R6k

更多在线教程:
Demo 运行
1 、进入 hyper.ai 首页后,选择「教程」页面,或点击「查看更多教程」,选择「Qwythos-9B-Claude-Mythos-5-1M GGUF 推理部署」,点击「运行此教程」。


2. 页面跳转后,点击右上角「Clone」,将该教程克隆至自己的容器中。
注:页面右上角支持切换语言,目前提供中文及英文两种语言,本教程文章以英文为例进行步骤展示。

3. 选择「NVIDIA RTX 5090」以及「PyTorch」镜像,点击「Continue job execution(继续执行)」。


4. 等待分配资源,当状态变为「Running(运行中)」后,点击「Open Workspace」进入 Jupyter Workspace 。

效果展示
1. 页面跳转后,点击左侧 README 文件,进入后点击上方 Run(运行)。


2. 待运行完毕后,点击右侧 API 地址即可打开 Demo 界面。









