Déployer des modèles ouverts sur des GPU

Choisissez une configuration GPU et une capacité pour trouver les meilleurs modèles ouverts compatibles, et déployez l'un d'eux sous forme d'API.

Code · 4× NVIDIA RTX 5090

Classés par scores de benchmark pour Génération, complétion et correction de code

#	Modèle	Paramètres	Précision	Contexte max	Score (0–10)
1	GLM-4.7-Flash 2026.01	31B	FP16	198K	8.23
2	Qwen-AgentWorld-35B-A3B 2026.06	34.7B	FP16	256K	7.30
3	TaskMem 2026.06	31.1B	FP16	256K	6.80
4	Gemma 4 31B 2026.03	31B	FP16	256K	6.69
5	UI-Mate-27B 2026.08	27.4B	FP16	256K	6.30

Déploiement validé sur HyperAI

Les scores agrègent les benchmarks publics pour la capacité sélectionnée.
Tient dans la VRAM utilisable avec les poids plus le cache KV pour un contexte de 64K+, à la meilleure précision.