OpenBayes에서 ChatGLM-4-9B-Chat 실행

이 튜토리얼은 ChatGLM-4-9B-Chat의 원클릭 배포 데모입니다. 컨테이너를 복제하고 시작하고, 생성된 API 주소를 직접 복사하기만 하면 모델의 추론을 경험할 수 있습니다.

모델 소개

GLM-4-9B는 Zhipu AI가 2024년에 출시한 GLM-4 시리즈의 최신 세대 사전 학습된 모델의 오픈 소스 버전입니다. 의미론, 수학, 추론, 코드 및 지식을 포함한 여러 데이터 세트를 평가한 결과, GLM-4-9B와 인간 선호도에 맞춰진 버전인 GLM-4-9B-Chat은 모두 Llama-3-8B보다 우수한 성능을 보였습니다. GLM-4-9B-Chat은 여러 라운드의 대화를 진행할 수 있을 뿐만 아니라 웹 브라우징, 코드 실행, 사용자 정의 도구 호출(함수 호출), 장문 텍스트 추론(최대 128K 컨텍스트 지원)과 같은 고급 기능도 제공합니다. 이 세대의 모델은 다국어 지원을 추가하여 일본어, 한국어, 독일어를 포함한 26개 언어를 지원합니다. 또한 1M 컨텍스트 길이(약 200만 자)를 지원하는 GLM-4-9B-Chat-1M 모델과 GLM-4-9B를 기반으로 한 멀티모달 모델 GLM-4V-9B도 출시했습니다. GLM-4V-9B는 1120 * 1120의 고해상도로 중국어와 영어 모두로 여러 라운드의 대화를 할 수 있습니다. 중국어와 영어의 종합적 능력, 지각적 추론, 텍스트 인식, 차트 이해력의 다중 모드 평가에서 GLM-4V-9B는 GPT-4-turbo-2024-04-09, Gemini 1.0 Pro, Qwen-VL-Max, Claude 3 Opus보다 우수한 성능을 보입니다.

이 모델은 9B 매개변수를 갖는 GLM-4의 채팅 모델입니다.

실행 방법

1. 컨테이너를 복제하고 컨테이너가 시작될 때까지 기다린 다음 아래 그림의 API 주소를 복사하여 브라우저에서 열어서 큰 모델을 경험해 보세요.

2. 아래를 클릭하여 텍스트 프롬프트를 입력하세요

3. 딸깍 하는 소리 제출하다, 답을 생성하다