Déploiement En Un Clic De La Démo GLM-4-9B-Chat
Exécution de ChatGLM-4-9B-Chat sur OpenBayes
Ce tutoriel est une démonstration de déploiement en un clic de ChatGLM-4-9B-Chat. Il vous suffit de cloner et de démarrer le conteneur et de copier directement l'adresse API générée pour expérimenter l'inférence du modèle.
Présentation du modèle
GLM-4-9B est la version open source de la dernière génération de modèles pré-entraînés de la série GLM-4 lancée par Zhipu AI en 2024. Lors de l'évaluation de plusieurs ensembles de données, notamment la sémantique, les mathématiques, le raisonnement, le code et les connaissances, GLM-4-9B et sa version alignée sur les préférences humaines GLM-4-9B-Chat ont tous deux montré des performances supérieures à celles de Llama-3-8B. En plus de pouvoir mener des conversations à plusieurs tours, GLM-4-9B-Chat dispose également de fonctionnalités avancées telles que la navigation Web, l'exécution de code, les appels d'outils personnalisés (Function Call) et le raisonnement de texte long (prenant en charge jusqu'à 128 000 contextes). Cette génération de modèles ajoute la prise en charge multilingue, prenant en charge 26 langues, dont le japonais, le coréen et l'allemand. Nous avons également lancé le modèle GLM-4-9B-Chat-1M qui prend en charge une longueur de contexte de 1 M (environ 2 millions de caractères chinois) et le modèle multimodal GLM-4V-9B basé sur GLM-4-9B. Le GLM-4V-9B est capable de mener des conversations multi-tours en chinois et en anglais à une haute résolution de 1120 * 1120. Dans les évaluations multimodales des capacités complètes en chinois et en anglais, du raisonnement perceptif, de la reconnaissance de texte et de la compréhension de graphiques, le GLM-4V-9B surpasse le GPT-4-turbo-2024-04-09, le Gemini 1.0 Pro, le Qwen-VL-Max et le Claude 3 Opus.
Le modèle est le modèle de chat de GLM-4 avec 9B paramètres.
Comment courir
- Clonez le conteneur, attendez que le conteneur démarre, puis copiez simplement l'adresse API dans la figure ci-dessous et ouvrez-la dans le navigateur pour découvrir le grand modèle.
- Cliquez ci-dessous pour saisir le texte de l'invite
- Cliquez Soumettre, générer la réponse
