Mistral-Nemo-Instruct-2407 のワンクリック展開

チュートリアルの紹介

このチュートリアルは、Mistral-Nemo-Instruct-2407 をワンクリックでデプロイするもので、関連する環境と依存関係がインストールされています。推論を体験するには、それを複製するだけです。 Mistral-Nemo-Instruct-2407 は、Mistral AI と NVIDIA が共同でオープンソース化した Mistral-Nemo-Base-2407 命令の微調整バージョンであり、そのパフォーマンスは既存の小型モデルまたは同等サイズのモデルよりも大幅に優れています。 120 億 (12B) のパラメータ サイズと 128k のコンテキスト ウィンドウを備えた Mistral NeMo は、推論、世界の知識、エンコードの精度においてクラスをリードしています。 Mistral NeMo は標準アーキテクチャに依存しているため、使いやすく、Mistral 7B を使用するあらゆるシステムの代替品として使用できます。

モデルの特徴

• トレーニングに 128k コンテキスト ウィンドウを使用する
• 大量の多言語データとコードデータでトレーニング
• ミストラル 7B の直接代替品
• 事前トレーニングされた基本チェックポイントと命令微調整チェックポイントは、Apache 2.0 ライセンスの下でリリースされ、商用利用が許可されます。

実行メソッド

1. コンテナのクローンを作成して起動します

2. コンテナが「実行中」になったら、「API アドレス」を開いてエクスペリエンス モデルを推測します

3. 以下をクリックしてテキスト プロンプトを入力し、 提出する

4. 結果の生成