HyperAI超神経

GPT-2 から 6 年後、OpenAI はついに別のオープンソースの大規模モデル、gpt-oss-120b と gpt-oss-20b をリリースしました。前者は、数千億のパラメータを伴う複雑な推論や知識集約型のシナリオ向けに設計されています。一方、後者は、低レイテンシ、ローカル、または特殊な垂直アプリケーションに適しており、ノートパソコンやエッジデバイスなどのコンシューマーグレードのハードウェア上でスムーズに動作します。この「大規模モデルの汎用性 + 小規模モデルの専門性」という二重のバージョンは、差別化されたポジショニングと展開の柔軟性を提供し、ユーザーの多様なニーズに効果的に対応します。

技術レベルでは、gpt-oss は MoE アーキテクチャを使用して、コンピューティングとメモリの要件を大幅に削減しながら強力なパフォーマンスを保証します。その中で、gpt-oss-120b は単一の 80 GB GPU で効率的に実行できますが、gpt-oss-20b は 16 GB のメモリのみを搭載したエッジデバイスでも実行できます。

実際のタスク評価では、gpt-oss-120b は Codeforces、MMLU、HLE、ツール呼び出し TauBench で o3-mini を上回り、o4-mini と同等かそれ以上のパフォーマンスを発揮しました。さらに、HealthBench⁠ および AIME 2024 および 2025 では o4-mini よりも優れたパフォーマンスを発揮します。モデルパラメータのサイズが小さいにもかかわらず、gpt-oss-20b は同じ評価で o3-mini とほぼ同等のパフォーマンスを発揮します。

gpt-ossをよりスムーズに体験していただくために、「Gpt-oss-20b の Llama.cpp + open-webui デプロイメント」チュートリアルが、HyperAI の公式 Web サイト (hyper.ai) の「チュートリアル」セクションで利用できるようになりました。ワンクリックで開始し、単一の NVIDIA RTX 4090 カードに基づくオープンソース SOTA モデルの強力な機能を体験してください。

加えて、gpt-oss-120b のチュートリアルも鋭意制作中ですので、楽しみです！

チュートリアルのリンク:

https://go.hyper.ai/iEJvN

デモの実行

1. hyper.ai ホームページで「チュートリアル」ページを選択し、Llama.cpp+open-webui を選択して gpt-oss-20b をデプロイし、「このチュートリアルをオンラインで実行」をクリックします。

2. ページがジャンプしたら、右上隅の「クローン」をクリックしてチュートリアルを独自のコンテナにクローンします。

3. 「NVIDIA GeForce RTX 4090」と「PyTorch」のイメージを選択し、ニーズに合わせて「Pay as you go」または「Daily/Weekly/Monthly Package」を選択し、「Continue」をクリックします。新規ユーザーは、以下の招待リンクから登録すると、RTX 4090 4時間分とCPUフリータイム5時間分がもらえます！

HyperAI ハイパーニューラルの専用招待リンク (ブラウザに直接コピーして開きます):

https://openbayes.com/console/signup?r=Ada0322_NR0n