在 GPU 上部署开源模型 | HyperAI超神经

选择 GPU 配置和能力，以寻找最适合的开源模型，并将其部署为 API。

HyperAI 智能体Beta

HyperAI 智能体目前处于测试阶段，回答可能不准确，请核实重要信息。

对话将在开始 14天后被删除。

有什么我可以帮您的？

查找资源、了解平台或管理您的工作区

知识 · 1× NVIDIA RTX PRO 6000 Blackwell

按基准测试评分排序：世界知识与多领域理解

#	模型	参数量	精度	最大上下文	评分 (0–10)	(0–10)
1	Qwen3.8-27B 2026.08	27.8B	FP8	256K	10.00
2	ZAYA1-8B 2026.05	8.8B	FP8	128K	8.52
3	Qwen-AgentWorld-35B-A3B 2026.06	34.7B	FP16	256K	7.60
4	TaskMem 2026.06	31.1B	FP16	240K	7.30
5	GLM-4.1V-9B-Thinking 2025.07	10.3B	FP16	64K	7.30
6	Cosmos3-Edge 2026.07	3.9B	FP16	128K	7.20
7	Mage-VL 2026.07	4.7B	FP16	256K	7.10
8	Gemma 4 31B 2026.03	31B	FP16	256K	6.96
9	Kimi-VL-A3B-Thinking-2506 2025.06	16.4B	FP16	128K	6.73
10	UI-Mate-27B 2026.08	27.4B	FP16	256K	6.10
11	Fara-7B 2025.11	8.3B	FP16	125K	6.10
12	GLM-4.7-Flash 2026.01	31B	FP16	198K	5.81
13	Nemotron 3 Nano Omni 2026.04	33B	NVFP4	256K	5.50
14	North-Micro-Vision-Instruct 2026.08	2.5B	FP16	488K	0.06

已在 HyperAI 上验证部署

评分汇总了所选能力的公开基准测试。
在最佳精度下，适配包含权重和 64K+ 上下文 KV cache 的可用 VRAM。