Command Palette
Search for a command to run...
オンライン チュートリアル | Qwen 3.5/DeepSeek-R1/Gemma 3/Llama 3.2 などの一般的なオープン ソース モデルをカバーし、無料の CPU リソースを使用して迅速に展開します。
オープンソースモデルのイテレーション速度は飛躍的に向上しています。テクノロジー大手からスタートアップ企業、そして研究チームに至るまで、様々なベンチマークテストで新たなモデルが絶えず登場しています。しかし、AIの歯車が急速に回転するこの世界では、開発者が革新的な技術に参入するための障壁は依然として存在しています。
今日、オープンソースコミュニティは急速に活発なモデルエコシステムを形成しています。こうした背景から、ますます多くの開発者が、新しいモデルをより容易かつ迅速にデプロイ・テストし、その機能を評価し、潜在的な応用シナリオを模索したいと考えています。しかし、実際には…GPU リソースのコスト、複雑な環境構成、高いハードウェア障壁は、多くの開発者にとって、モデルの展開を試みる際の大きな障害となっています。
実際、定量化技術と推論フレームワークの継続的な最適化のおかげで、多くの主流のオープンソース モデルは、すでに CPU 環境で基本的な推論と機能検証を完了できます。これにより、開発者は低コストの条件でモデル体験とプロトタイプ開発の新たな可能性を手にすることができます。
グローバル開発者にとって迅速かつ容易なプロジェクト展開を実現するために、HyperAI は無料の CPU クォータを提供しており、Basic ユーザーは 1 つのタスクを最大 12 時間連続して実行でき、Pro ユーザーは最大 24 時間連続して実行できます。同時に、HyperAIの「チュートリアル」セクションでは、Qwen、DeepSeek、Gemma、Llama、GLMといった人気のオープンソースモデルをCPU上で実行するためのオンラインチュートリアルも公開しました。これらのチュートリアルでは、環境の準備、モデルのダウンロードから推論、実行までの完全なデプロイメントプロセスが提供されており、ユーザーは複雑なローカル環境をデプロイすることなく、モデル推論の体験と基本的な開発テストを完了できます。
HyperAI Pro の詳細については、こちらをクリックしてください。CPU使用料無料 / GPU使用クレジット30時間 / 超大容量70GBのストレージを備えたHyperAI Proが正式にリリースされました！
Qwen3.5-9B-GGUFのCPU展開:
Qwen2.5-14B-Instruct-GGUFのCPU展開:
Qwen2.5-3B-Instruct-GGUFのCPU展開:
DeepSeek-R1-Distill-Qwen-1.5B-GGUFのCPU展開:
CPU 展開 DeepSeek-Coder-V2-Lite-Instruct-GGUF:
Gemma-3-1b-it-GGUFのCPU展開:
Llama-3.2-3B-Instruct-GGUFのCPU展開:
gpt-oss-20b-GGUFのCPU展開:
Phi-4-mini-instruct-GGUFのCPU展開:
GLM-4-9B-chat-GGUFのCPU展開:
この記事では、「CPU への Qwen3.5-9B-GGUF のデプロイ」を例にしてチュートリアルを説明します。
デモの実行
1. hyper.ai ホームページにアクセスした後、「チュートリアル」ページを選択するか、「その他のチュートリアルを表示」をクリックし、「CPU デプロイメント Qwen3.5-9B-GGUF」を選択して、「このチュートリアルをオンラインで実行」をクリックします。
2. ページがリダイレクトされたら、右上隅の「複製」をクリックして、チュートリアルを独自のコンテナーに複製します。
注：ページの右上で言語を切り替えることができます。現在、中国語と英語が利用可能です。このチュートリアルでは英語で手順を説明します。
3. 「Free-CPU」と「PyTorch」のイメージを選択し、「ジョブ実行を続行」をクリックします。
HyperAI は新規ユーザーに登録特典を提供しています。わずか $1 で、RTX 5090 のコンピューティング パワーを 20 時間利用できます (元の価格は $7)。リソースは永続的に有効です。
4. リソースが割り当てられるのを待ちます。ステータスが「実行中」に変わったら、「ワークスペースを開く」をクリックしてJupyterワークスペースに入ります。
効果実証
1. ページがリダイレクトされたら、左側の README ファイルをクリックし、ページの上部にある [実行] をクリックします。
2. プロセスが完了したら、右側の API アドレスをクリックしてデモ ページに移動します。
以上が今回HyperAIがおすすめするチュートリアルです。ぜひ皆さんも体験してみてください！
