オンラインチュートリアル丨2Bが4Bに勝つ、同級オープンソースモデルSOTA、OpenBMBがMiniCPM5-2Bを発表、131K長文脈とツール呼び出しに対応

質疑応答、コーディングからツール呼び出しまで、AIアシスタントの能力は絶えず拡張しています。限られたリソースの中で推論、長文処理、エージェントアプリケーションを両立させる方法が、エッジデプロイの重要な課題となっています。

MiniCPM5-2Bは、軽量な選択肢を提供します。OpenBMBが発表したMiniCPM5シリーズの2番目のモデルとして、標準的なLlamaForCausalLMアーキテクチャを採用し、 エッジデプロイ、ローカル推論、リソース制約のある環境を対象に、小規模パラメータモデルを中心とした実用的なAIアプリケーション構築を開発者にサポートします。

公式評価によると、MiniCPM5-2Bは比較対象範囲内で平均スコア53.9を獲得し、2B級オープンソースモデルのリーディングレベルに達し、一部の指標では4B級モデルを上回っています。 その能力はコード推論、数学推論、長文コンテキスト理解、ツール呼び出し、エージェントタスクをカバーしており、プログラミング支援、問題解決、知識QAなどのシーンで使用できます。長文処理のニーズに応え、MiniCPM5-2Bは最大131,072トークンのコンテキストウィンドウをネイティブサポートしており、 長いドキュメント、コード、会話履歴の入力に余裕を提供します。

テキスト生成に加えて、MiniCPM5-2BはXMLスタイルのツール呼び出しもサポートしており、 プログラミングエージェント、検索エージェント、その他のツール呼び出しワークフローのモデル基盤として使用できます。

現在、HyperAIチュートリアルセクションには「MiniCPM5-2B：端側2B級SOTA大模型推論」の実践チュートリアルが公開されており、オンライン体験とワンクリックデプロイをサポートしています~

オンライン実行：

https://go.hyper.ai/q0Pc2

その他のオンラインチュートリアル：

https://hyper.ai/notebooks

デモページ

Demoの実行

1.hyper.aiホームページに入り、「チュートリアル」ページを選択するか、「その他のチュートリアルを見る」をクリックし、「MiniCPM5-2B：端側2B級SOTA大模型推論」を選択して、「このチュートリアルを実行」をクリックします。

2.ページが遷移したら、右上隅の「Clone」をクリックして、このチュートリアルを自分のコンテナにクローンします。

注：ページ右上隅で言語を切り替えることができ、現在は中国語と英語の2言語が提供されています。本チュートリアル記事では英語を例に手順を説明します。

3.「NVIDIA RTX 5090」と「vllm」イメージを選択し、「Continue job execution（続行）」をクリックします。

4.リソースの割り当てを待ち、ステータスが「Running（実行中）」に変わったら、「Open Workspace」をクリックしてJupyter Workspaceに入ります。

効果の表示

1.ページが遷移したら、左側のREADMEファイルをクリックし、入ったら上部のRun（実行）をクリックします。

2.実行が完了したら、新しいターミナルを開き、以下のコマンドを実行してOpen WebUIを起動します。

3.起動後、右側のAPIアドレスをクリックすると、ブラウザでOpen WebUIインターフェースにアクセスでき、ローカルモデルとの対話を開始できます。