Déployer des modèles ouverts sur des GPU

Choisissez une configuration GPU et une capacité pour trouver les meilleurs modèles ouverts compatibles, et déployez l'un d'eux sous forme d'API.

Agent · 2× NVIDIA RTX 5090

Classés par scores de benchmark pour Appel d'outils, planification multi-étapes et interaction avec l'environnement

#	Modèle	Paramètres	Précision	Contexte max	Score (0–10)	(0–10)
1	Kimi-VL-A3B-Thinking-2506 2025.06	16.4B	FP16	128K	8.75

Déploiement validé sur HyperAI

Les scores agrègent les benchmarks publics pour la capacité sélectionnée.
Tient dans la VRAM utilisable avec les poids plus le cache KV pour un contexte de 64K+, à la meilleure précision.