OpenBayes で ChatGLM-4-9B-Chat を実行する

このチュートリアルは、ChatGLM-4-9B-Chat のワンクリック デプロイメント デモです。コンテナを複製して起動し、生成された API アドレスを直接コピーするだけで、モデル上の推論を体験できます。

モデル紹介

GLM-4-9B は、Zhipu AI が 2024 年に発売した最新世代の事前トレーニング モデル GLM-4 シリーズのオープンソース バージョンです。 セマンティクス、数学、推論、コード、知識などのさまざまなデータセットの評価において、GLM-4-9B とその人間の好みに合わせたバージョンの GLM-4-9B-Chat はどちらも Llama-3-8B を超える優れたパフォーマンスを示しました。 GLM-4-9B-Chat は、複数ラウンドの会話を行うことができることに加えて、Web ブラウジング、コード実行、カスタム ツール呼び出し (関数呼び出し)、長いテキスト推論 (最大 128K コンテキストをサポート) などの高度な機能も備えています。 。この世代のモデルでは、多言語サポートが追加され、日本語、韓国語、ドイツ語を含む 26 言語をサポートします。また、1M コンテキスト長（漢字約 200 万文字）をサポートするモデル GLM-4-9B-Chat-1M と、GLM-4-9B をベースにしたマルチモーダル モデル GLM-4V-9B も発売しました。 GLM-4V-9Bは、1120 * 1120の高解像度で中国語と英語のバイリンガルマルチターン対話機能を備えており、総合的な中国語と英語の能力、知覚推論、テキスト認識、図の理解などのマルチモーダル評価が可能です。 GLM-4V-9B は、GPT-4-turbo-2024-04-09、Gemini 1.0 Pro、Qwen-VL-Max、および Claude 3 Opus よりも優れていることを示します優れたパフォーマンス。

モデルはGLM-4の9Bパラメータサイズチャットモデルです。

実行メソッド

1. コンテナーを複製し、コンテナーが開始されるのを待ちます。下の図の API アドレスをコピーしてブラウザーで開き、大規模なモデルを体験します。

2. 以下をクリックしてテキストプロンプトを入力してください

3. クリック 提出する、答えを生成する