Déployer des modèles ouverts sur des GPU

Choisissez une configuration GPU et une capacité pour trouver les meilleurs modèles ouverts compatibles, et déployez l'un d'eux sous forme d'API.

Agent · 1× NVIDIA RTX 5090

Classés par scores de benchmark pour Appel d'outils, planification multi-étapes et interaction avec l'environnement

#	Modèle	Paramètres	Précision	Contexte max	Score (0–10)
1	Qwen3.8-27BValidé 2026.08	27.8B	NVFP4	220K	9.59
2	Fara-7B 2025.11	8.3B	FP16	125K	7.80
3	GLM-4.1V-9B-Thinking 2025.07	10.3B	FP16	64K	6.20
4	Mage-VL 2026.07	4.7B	FP16	118K	5.80
5	Cosmos3-Edge 2026.07	3.9B	FP16	128K	5.80
6	ZAYA1-8B 2026.05	8.8B	FP8	128K	5.29
7	Nemotron 3 Nano Omni 2026.04	33B	NVFP4	256K	5.00
8	North-Micro-Vision-Instruct 2026.08	2.5B	FP16	488K	2.80

Déploiement validé sur HyperAI

Les scores agrègent les benchmarks publics pour la capacité sélectionnée.
Tient dans la VRAM utilisable avec les poids plus le cache KV pour un contexte de 64K+, à la meilleure précision.