Ein-Klick-Bereitstellung Der GLM-4-9B-Chat-Demo
Ausführen von ChatGLM-4-9B-Chat auf OpenBayes
Dieses Tutorial ist eine Ein-Klick-Bereitstellungsdemo von ChatGLM-4-9B-Chat. Sie müssen nur den Container klonen und starten und die generierte API-Adresse direkt kopieren, um die Inferenz des Modells zu erleben.
Modelleinführung
GLM-4-9B ist die Open-Source-Version der neuesten Generation vortrainierter Modelle der GLM-4-Reihe, die 2024 von Zhipu AI auf den Markt gebracht wurde. Bei der Auswertung mehrerer Datensätze, darunter Semantik, Mathematik, Argumentation, Code und Wissen, zeigten sowohl GLM-4-9B als auch seine an menschlichen Präferenzen ausgerichtete Version GLM-4-9B-Chat eine bessere Leistung als Llama-3-8B. GLM-4-9B-Chat ermöglicht nicht nur die Durchführung mehrstufiger Gespräche, sondern verfügt auch über erweiterte Funktionen wie Web-Browsing, Code-Ausführung, benutzerdefinierte Tool-Aufrufe (Funktionsaufruf) und Langtext-Argumentation (unterstützt bis zu 128 KB Kontext). Diese Modellgeneration bietet zusätzlich Unterstützung für mehrere Sprachen und unterstützt 26 Sprachen, darunter Japanisch, Koreanisch und Deutsch. Wir haben außerdem das Modell GLM-4-9B-Chat-1M eingeführt, das eine Kontextlänge von 1M (etwa 2 Millionen chinesische Schriftzeichen) unterstützt, und das multimodale Modell GLM-4V-9B basierend auf GLM-4-9B. GLM-4V-9B ist in der Lage, mehrstufige Gespräche auf Chinesisch und Englisch mit einer hohen Auflösung von 1120 x 1120 zu führen. In multimodalen Bewertungen der umfassenden Chinesisch- und Englischkenntnisse, des perzeptuellen Denkens, der Texterkennung und des Diagrammverständnisses übertrifft GLM-4V-9B GPT-4-turbo-2024-04-09, Gemini 1.0 Pro, Qwen-VL-Max und Claude 3 Opus.
Das Modell ist das Chat-Modell von GLM-4 mit 9B-Parametern.
Wie man läuft
- Klonen Sie den Container, warten Sie, bis der Container gestartet ist, kopieren Sie dann einfach die API-Adresse in der folgenden Abbildung und öffnen Sie sie im Browser, um das große Modell zu erleben.
- Klicken Sie unten, um eine Textaufforderung einzugeben
- Klicken Einreichen, generieren Sie die Antwort
