すべてのシナリオで何千億ものパラメータが必要なわけではありませんが、ほぼすべてのシナリオで「推論」能力を持つモデルが必要です。より小型で展開しやすいモデルに、より強力な推論能力、長期的なコンテキスト理解能力、およびツール呼び出し能力を持たせる方法は、オープンソースコミュニティにおける重要な研究テーマとなっています。

小型モデルにおける複雑なタスクの処理能力不足の問題に対処するため、Emperoは、Qwythos3.5-9Bをベースに構築された推論機能を強化した言語モデルであるQwythos-9B-Claude-Mythos-5-1Mをオープンソース化した。このモデルは、5億トークンを超える高品質なクロード・ミトスとクロード・フェイブルの推論軌跡データを使用して事後学習されました。90億個のパラメータ規模を維持しながら、複雑な推論タスクにおけるモデルのパフォーマンスを向上させる。

ベースモデルのQwen3.5-9Bと比較して、Qwythosは、MMLUで34ポイント、gsm8k-strict数学的推論で30ポイントの向上など、複数の評価項目で顕著な改善を示した。これは、パラメータ数の少ないモデルでも、質の高い推論データを用いることで、性能を飛躍的に向上させることができることを示している。

推論能力の最適化に加えてQwythosは、AIエージェントのシナリオにも対応できるよう機能強化されています。このモデルは、Qwen 3.5 仕様に基づくネイティブツール呼び出し機能をサポートしており、外部ツールに接続して複雑なタスクを実行できます。同時に、YaRN RoPE スケーリング技術により、最大 100 万トークンの超ロングコンテキストをサポートし、長いドキュメントやコードベースなどの複雑な情報を処理します。さらに、Qwythosは、Qwen3.5-9Bのマルチモーダル視覚機能を継承しています。mmprojモジュールを通じて画像理解をサポートすることで、マルチモーダルエージェントなどのシナリオにおけるモデルの応用範囲をさらに拡大できます。

Qwythosのリリースにより、小規模モデルの開発に新たな道が開かれました。高品質なデータ、推論トレーニング、および機能最適化を通じて、小規模パラメータモデルは規模の制約を克服することができ、低コストで高効率なAIアプリケーションのための新たな可能性を提供します。

開発者がQwythosをすぐに体験できるよう、HyperAI（hyper.ai）は、ワンクリックでモデルをデプロイし、推論テストやエージェント開発を迅速に開始できるよう、関連するモデルリソースをまとめています。⬇️

オンラインで実行:https://go.hyper.ai/25R6k

その他のオンラインチュートリアル：

https://hyper.ai/notebooks

デモの実行

1. hyper.ai のホームページにアクセスした後、「チュートリアル」ページを選択するか、「その他のチュートリアルを表示」をクリックし、「Qwythos-9B-Claude-Mythos-5-1M GGUF 推論デプロイメント」を選択して、「このチュートリアルを実行」をクリックします。

2. ページがリダイレクトされたら、右上隅の「複製」をクリックして、チュートリアルを独自のコンテナーに複製します。

注：ページの右上で言語を切り替えることができます。現在、中国語と英語が利用可能です。このチュートリアルでは英語で手順を説明します。

3. 「NVIDIA RTX 5090」と「PyTorch」の画像を選択し、「ジョブの実行を続行」をクリックします。

4. リソースが割り当てられるのを待ちます。ステータスが「実行中」に変わったら、「ワークスペースを開く」をクリックしてJupyterワークスペースに入ります。

エフェクト表示

1. ページがリダイレクトされたら、左側のREADMEファイルをクリックし、上部の「実行」をクリックします。

2. 処理が完了したら、右側のAPIアドレスをクリックしてデモインターフェースを開きます。