在 GPU 上部署开源模型 | HyperAI超神经

选择 GPU 配置和能力，以寻找最适合的开源模型，并将其部署为 API。

HyperAI 智能体Beta

HyperAI 智能体目前处于测试阶段，回答可能不准确，请核实重要信息。

对话将在开始 14天后被删除。

有什么我可以帮您的？

查找资源、了解平台或管理您的工作区

代码 · 1× NVIDIA RTX 5090

按基准测试评分排序：代码生成、补全与修复

#	模型	参数量	精度	最大上下文	评分 (0–10)	(0–10)	部署
1	Qwen3.8-27B已验证 2026.08	27.8B	NVFP4	220K	9.25
2	GLM-4.1V-9B-Thinking 2025.07	10.3B	FP16	64K	6.80
3	ZAYA1-8B 2026.05	8.8B	FP8	128K	6.58
4	Mage-VL 2026.07	4.7B	FP16	118K	6.30
5	Cosmos3-Edge 2026.07	3.9B	FP16	128K	6.30
6	Fara-7B 2025.11	8.3B	FP16	125K	5.20
7	Nemotron 3 Nano Omni 2026.04	33B	NVFP4	256K	5.00
8	North-Micro-Vision-Instruct 2026.08	2.5B	FP16	488K	3.20

已在 HyperAI 上验证部署

评分汇总了所选能力的公开基准测试。
在最佳精度下，适配包含权重和 64K+ 上下文 KV cache 的可用 VRAM。