GPU上でオープンモデルをデプロイ | HyperAI超神経

GPU構成と機能を選択して条件に合う最適なオープンモデルを見つけ、APIとしてデプロイできます。

HyperAIエージェントベータ

HyperAI Agentはベータ版です。回答が不正確な場合があるため、重要な情報は確認してください。

会話は削除されます 14 日開始後に。

どのようなお手伝いができますか？

リソースの検索、プラットフォームの学習、ワークスペースの管理

エージェント · 1× NVIDIA RTX 5090

ベンチマークスコア順：ツール呼び出し、マルチステップ計画、環境との相互作用

#	モデル	パラメータ数	精度	最大コンテキスト	スコア (0–10)	(0–10)	デプロイ
1	Qwen3.8-27B検証済み 2026.08	27.8B	NVFP4	220K	9.59
2	Fara-7B 2025.11	8.3B	FP16	125K	7.80
3	GLM-4.1V-9B-Thinking 2025.07	10.3B	FP16	64K	6.20
4	Mage-VL 2026.07	4.7B	FP16	118K	5.80
5	Cosmos3-Edge 2026.07	3.9B	FP16	128K	5.80
6	ZAYA1-8B 2026.05	8.8B	FP8	128K	5.29
7	Nemotron 3 Nano Omni 2026.04	33B	NVFP4	256K	5.00
8	North-Micro-Vision-Instruct 2026.08	2.5B	FP16	488K	2.80

HyperAI上でデプロイ検証済み

スコアは、選択された能力の公開ベンチマークを集計したものです。
最高の精度で、重みと64K+コンテキストのKVキャッシュが、使用可能なVRAMに収まります。