Déployer des modèles ouverts sur des GPU

Choisissez une configuration GPU et une capacité pour trouver les meilleurs modèles ouverts compatibles, et déployez l'un d'eux sous forme d'API.

Code · 1× NVIDIA RTX 5090

Classés par scores de benchmark pour Génération, complétion et correction de code

#	Modèle	Paramètres	Précision	Contexte max	Score (0–10)
1	Qwen3.8-27BValidé 2026.08	27.8B	NVFP4	220K	9.25
2	GLM-4.1V-9B-Thinking 2025.07	10.3B	FP16	64K	6.80
3	ZAYA1-8B 2026.05	8.8B	FP8	128K	6.58
4	Mage-VL 2026.07	4.7B	FP16	118K	6.30
5	Cosmos3-Edge 2026.07	3.9B	FP16	128K	6.30
6	Fara-7B 2025.11	8.3B	FP16	125K	5.20
7	Nemotron 3 Nano Omni 2026.04	33B	NVFP4	256K	5.00
8	North-Micro-Vision-Instruct 2026.08	2.5B	FP16	488K	3.20

Déploiement validé sur HyperAI

Les scores agrègent les benchmarks publics pour la capacité sélectionnée.
Tient dans la VRAM utilisable avec les poids plus le cache KV pour un contexte de 64K+, à la meilleure précision.