在 GPU 上部署开源模型 | HyperAI超神经

选择 GPU 配置和能力，以寻找最适合的开源模型，并将其部署为 API。

HyperAI 智能体Beta

HyperAI 智能体目前处于测试阶段，回答可能不准确，请核实重要信息。

对话将在开始 14天后被删除。

有什么我可以帮您的？

查找资源、了解平台或管理您的工作区

推理与数学 · 1× NVIDIA RTX 5090

按基准测试评分排序：竞赛数学、逻辑与科学推理

#	模型	参数量	精度	最大上下文	评分 (0–10)	(0–10)	部署
1	Qwen3.8-27B已验证 2026.08	27.8B	NVFP4	220K	8.85
2	ZAYA1-8B 2026.05	8.8B	FP8	128K	6.71
3	Cosmos3-Edge 2026.07	3.9B	FP16	128K	6.60
4	Fara-7B 2025.11	8.3B	FP16	125K	5.60
5	Nemotron 3 Nano Omni 2026.04	33B	NVFP4	256K	5.00
6	North-Micro-Vision-Instruct 2026.08	2.5B	FP16	488K	1.60
7	Mage-VL 2026.07	4.7B	FP16	118K	0.42
8	GLM-4.1V-9B-Thinking 2025.07	10.3B	FP16	64K	0.30

已在 HyperAI 上验证部署

评分汇总了所选能力的公开基准测试。
在最佳精度下，适配包含权重和 64K+ 上下文 KV cache 的可用 VRAM。