GPU上でオープンモデルをデプロイ | HyperAI超神経

GPU構成と機能を選択して条件に合う最適なオープンモデルを見つけ、APIとしてデプロイできます。

HyperAIエージェントベータ

HyperAI Agentはベータ版です。回答が不正確な場合があるため、重要な情報は確認してください。

会話は削除されます 14 日開始後に。

どのようなお手伝いができますか？

リソースの検索、プラットフォームの学習、ワークスペースの管理

エージェント · 1× NVIDIA RTX PRO 6000 Blackwell

ベンチマークスコア順：ツール呼び出し、マルチステップ計画、環境との相互作用

#	モデル	パラメータ数	精度	最大コンテキスト	スコア (0–10)	(0–10)
1	UI-Mate-27B 2026.08	27.4B	FP16	256K	10.00
2	Qwen3.8-27B 2026.08	27.8B	FP8	256K	9.59
3	Kimi-VL-A3B-Thinking-2506 2025.06	16.4B	FP16	128K	8.75
4	Qwen-AgentWorld-35B-A3B 2026.06	34.7B	FP16	256K	8.70
5	Fara-7B 2025.11	8.3B	FP16	125K	7.80
6	Gemma 4 31B 2026.03	31B	FP16	256K	7.69
7	GLM-4.7-Flash 2026.01	31B	FP16	198K	7.07
8	TaskMem 2026.06	31.1B	FP16	240K	6.20
9	GLM-4.1V-9B-Thinking 2025.07	10.3B	FP16	64K	6.20
10	Mage-VL 2026.07	4.7B	FP16	256K	5.80
11	Cosmos3-Edge 2026.07	3.9B	FP16	128K	5.80
12	ZAYA1-8B 2026.05	8.8B	FP8	128K	5.29
13	Nemotron 3 Nano Omni 2026.04	33B	NVFP4	256K	5.00
14	North-Micro-Vision-Instruct 2026.08	2.5B	FP16	488K	2.80

HyperAI上でデプロイ検証済み

スコアは、選択された能力の公開ベンチマークを集計したものです。
最高の精度で、重みと64K+コンテキストのKVキャッシュが、使用可能なVRAMに収まります。