1. 튜토리얼 소개

Llama-3.3-70B-Instruct는 Meta가 2024년에 출시한 대규모 언어 모델입니다. Llama 3.3 시리즈에서 유일한 오픈 소스 모델이며, 특별히 최적화된 명령어 미세 조정 버전을 갖추고 있습니다. 이 모델은 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어 등 8개 언어를 지원하지만 현재 중국어는 지원하지 않습니다. 성능 평가에서 Llama-3.3-70B-Instruct의 매개변수 크기는 약 70B이지만, 각종 평가 지표는 매개변수 크기가 405B인 Llama3.1-405B 모델과 거의 비슷한 수준을 보이고 있습니다. 즉, 적은 리소스로 더 빠르게 텍스트를 생성할 수 있으며, 매개변수 크기가 약 6배 큰 모델과 비슷한 성능을 보입니다. 이를 통해 Llama-3.3-70B-Instruct는 오픈 소스이고 접근성이 뛰어나면서도 주요 벤치마크에서 뛰어난 성능을 제공하는 강력하고 비용 효율적인 대안이 됩니다.

本教程使用 Llama-3.3-70B-Instruct（采取 int4 量化）作为演示，算力资源采用 A6000 。

2. 작업 단계

1. 컨테이너를 시작한 후 API 주소를 클릭하여 웹 인터페이스에 접속합니다. ("잘못된 게이트웨이"가 표시되면 모델이 초기화 중임을 의미합니다. 모델 용량이 크므로 약 5분 정도 기다린 후 다시 시도해 주세요.)

2. 웹페이지에 접속하면 모델과 대화를 시작할 수 있습니다!

모델 대화 흐름

교류 및 토론

🖌️ 고품질 프로젝트를 발견하시면, 백그라운드에 메시지를 남겨 추천해주세요! 또한, 튜토리얼 교환 그룹도 만들었습니다. 친구들의 QR코드 스캔과 [SD 튜토리얼] 댓글을 통해 그룹에 가입하여 다양한 기술 이슈에 대해 논의하고 신청 결과를 공유해 주시기 바랍니다.↓