Mistral-Nemo-Instruct-2407의 원클릭 배포

튜토리얼 소개

이 튜토리얼은 Mistral-Nemo-Instruct-2407을 한 번의 클릭으로 배포하는 방법입니다. 관련 환경과 종속성이 설치되었습니다. 추론을 경험하기 위해서는 그것을 복제하기만 하면 됩니다. Mistral-Nemo-Instruct-2407은 Mistral AI와 NVIDIA가 공동으로 오픈 소스로 공개한 Mistral-Nemo-Base-2407 명령어의 미세 조정 버전이며, 기존의 더 작거나 비슷한 크기의 모델보다 성능이 훨씬 뛰어납니다. Mistral NeMo는 120억(12B)개의 매개변수와 128k의 컨텍스트 창을 가지고 있으며, 추론, 세계 지식, 인코딩 정확도가 비슷한 규모에서 선두를 달리고 있습니다. Mistral NeMo는 표준 아키텍처를 사용하므로 사용이 쉽고 Mistral 7B를 사용하는 모든 시스템에 바로 교체할 수 있습니다.

모델 특징

• 128k 컨텍스트 창으로 학습
• 다양한 언어와 코드 데이터를 대량으로 학습
• Mistral 7B의 직접 교체
• 사전 훈련된 기본 체크포인트와 명령어 미세 조정 체크포인트는 Apache 2.0 라이선스에 따라 배포되므로 상업적 사용이 허용됩니다.

실행 방법

1. 컨테이너를 복제하고 시작합니다.

2. 컨테이너가 "실행 중"일 때 "API 주소"를 열어 경험 모델을 추론합니다.

3. 아래를 클릭하여 텍스트 프롬프트를 입력하고 다음을 클릭합니다. 제출하다

4. 결과 생성