Command Palette
Search for a command to run...
온라인 튜토리얼 | Qwen 3.5/DeepSeek-R1/Gemma 3/Llama 3.2 등 인기 있는 오픈 소스 모델을 다루며, CPU 리소스를 무료로 활용하여 빠르게 배포할 수 있습니다.
오픈 소스 모델의 개발 속도는 기하급수적으로 빨라지고 있습니다. 거대 기술 기업부터 스타트업, 연구팀에 이르기까지 다양한 벤치마크 테스트에서 새로운 모델이 끊임없이 등장하고 있습니다. 하지만 이처럼 빠르게 발전하는 AI 환경 속에서도 개발자들이 혁신적인 기술에 진입하는 데에는 여전히 장벽이 존재합니다.
오늘날 오픈소스 커뮤니티는 매우 활발한 모델 생태계를 빠르게 구축하고 있습니다. 이러한 배경 속에서 점점 더 많은 개발자들이 새로운 모델을 더욱 쉽고 빠르게 배포 및 테스트하여 그 기능을 평가하고 잠재적인 응용 시나리오를 탐색하기를 희망합니다. 그러나 현실은…GPU 리소스 비용, 복잡한 환경 구성 및 높은 하드웨어 장벽은 많은 개발자가 모델을 배포하려고 할 때 여전히 주요 장애물로 남아 있습니다.
실제로 정량화 기법과 추론 체계의 지속적인 최적화 덕분에,많은 주류 오픈 소스 모델은 이미 CPU 환경에서 기본적인 추론 및 기능 검증을 완료할 수 있습니다.이는 개발자들에게 저비용 조건에서 모델 경험과 프로토타입 개발을 위한 새로운 가능성을 제공합니다.
전 세계 개발자들이 신속하고 간편하게 프로젝트를 배포할 수 있도록 하기 위해 다음과 같은 점을 언급할 가치가 있습니다.HyperAI는 무료 CPU 할당량을 제공하며, Basic 사용자는 단일 작업을 최대 12시간 동안, Pro 사용자는 최대 24시간 동안 연속으로 실행할 수 있습니다.이와 동시에 HyperAI의 "튜토리얼" 섹션에서는 Qwen, DeepSeek, Gemma, Llama, GLM과 같은 인기 있는 오픈 소스 모델을 CPU에서 실행하는 방법에 대한 온라인 튜토리얼을 제공하기 시작했습니다. 이 튜토리얼은 환경 준비 및 모델 다운로드부터 추론 및 실행에 이르기까지 전체 배포 프로세스를 제공하므로 사용자는 복잡한 로컬 환경을 구축하지 않고도 모델 추론 경험과 기본적인 개발 테스트를 완료할 수 있습니다.
HyperAI Pro에 대해 자세히 알아보려면 클릭하세요.무료 CPU 사용 / 30시간 GPU 사용 크레딧 / 70GB의 초대형 저장공간, HyperAI Pro가 정식 출시되었습니다!
Qwen3.5-9B-GGUF의 CPU 배포:
Qwen2.5-14B-Instruct-GGUF의 CPU 배포:
Qwen2.5-3B-Instruct-GGUF의 CPU 배포:
DeepSeek-R1-Distill-Qwen-1.5B-GGUF의 CPU 배포:
CPU 배포 DeepSeek-Coder-V2-Lite-Instruct-GGUF:
Gemma-3-1b-it-GGUF의 CPU 배포:
Llama-3.2-3B-Instruct-GGUF의 CPU 배포:
gpt-oss-20b-GGUF의 CPU 배포:
Phi-4-mini-instruct-GGUF의 CPU 배포:
GLM-4-9B-chat-GGUF의 CPU 배포:
이 문서에서는 "CPU에 Qwen3.5-9B-GGUF 배포"를 예시로 사용하여 튜토리얼을 설명합니다.
데모 실행
1. hyper.ai 홈페이지에 접속한 후 "튜토리얼" 페이지를 선택하거나 "더 많은 튜토리얼 보기"를 클릭하고 "CPU 배포 Qwen3.5-9B-GGUF"를 선택한 다음 "이 튜토리얼을 온라인으로 실행"을 클릭합니다.
2. 페이지가 리디렉션된 후 오른쪽 상단의 "복제"를 클릭하여 튜토리얼을 자신의 컨테이너로 복제합니다.
참고: 페이지 오른쪽 상단에서 언어를 변경할 수 있습니다. 현재 중국어와 영어로만 제공됩니다. 이 튜토리얼에서는 영어로 된 단계를 안내합니다.
3. "Free-CPU" 및 "PyTorch" 이미지를 선택하고 "작업 실행 계속"을 클릭합니다.
HyperAI는 신규 사용자를 위한 등록 혜택을 제공합니다.단 $1로 20시간 동안 RTX 5090의 컴퓨팅 성능을 이용할 수 있습니다(정가 $7).해당 리소스는 영구적으로 유효합니다.
4. 리소스 할당이 완료될 때까지 기다립니다. 상태가 "실행 중"으로 변경되면 "워크스페이스 열기"를 클릭하여 Jupyter 워크스페이스에 들어갑니다.
효과 시연
1. 페이지가 리디렉션된 후 왼쪽에 있는 README 파일을 클릭하고 페이지 상단의 실행을 클릭합니다.
2. 과정이 완료되면 오른쪽에 있는 API 주소를 클릭하여 데모 페이지로 이동하세요.
위는 HyperAI가 이번에 추천하는 튜토리얼입니다. 누구나 와서 체험해 보세요!
