온라인 튜토리얼 | O3-mini와 비슷한 오픈소스 코드 추론 모델 DeepCoder-14B-Preview는 3천개의 별을 받았습니다.

4월 9일 이른 아침, Agentica 팀과 Together AI는 공동으로 새로운 오픈 소스를 공개했습니다. DeepCoder-14B-미리보기  코드 추론 모델,이 새로운 모델은 14B만 필요하고 OpenAI o3-Mini와 비슷하며, 업계에서 곧바로 폭넓은 주목을 받았습니다.GitHub에서는 3,000개의 별을 받았습니다.

특히 DeepCoder-14B-Preview는 딥시크-R1-디스틸드-큐웬-14B  코드 추론 LLM 미세 조정, 분포 강화 학습(RL)을 사용하여 컨텍스트 길이 확장.이 모델은 LiveCodeBench v5(8/1/24-2/1/25)에서 60.6%의 단일 통과율(Pass@1)을 달성했습니다.기본 모델을 능가할 뿐만 아니라, 매개변수가 140억 개에 불과한 원래 모델과 동일한 성능을 달성했습니다. 오픈AI o3-미니  괜찮은 성능.

현재, "DeepCoder-14B-Preview의 원클릭 배포" 튜토리얼을 온라인에서 이용할 수 있습니다. 하이퍼AI공식 홈페이지의 튜토리얼 섹션에서 모델을 복제한 후, "API 주소"를 입력하면 빠르게 모델을 체험해 볼 수 있습니다!

튜토리얼 링크:https://go.hyper.ai/0J82f

데모 실행

1. hyper.ai에 로그인하고 튜토리얼 페이지에서 DeepCoder-14B-Preview의 원클릭 배포를 선택하고 이 튜토리얼을 온라인으로 실행을 클릭합니다.

2. 페이지가 이동한 후 오른쪽 상단의 "복제"를 클릭하여 튜토리얼을 자신의 컨테이너로 복제합니다.

3. "NVIDIA GeForce RTX 4090"과 "vLLM거울상,오픈베이즈  이 플랫폼은 4가지 청구 방법을 제공합니다. 귀하의 요구 사항에 따라 "사용 후 결제" 또는 "일일/주간/월간"을 선택하고 "계속"을 클릭하세요. 신규 사용자는 아래 초대 링크를 사용하여 등록하고 RTX 4090 4시간 + CPU 자유 시간 5시간을 받으세요!

HyperAI 독점 초대 링크(복사하여 브라우저에서 열기):

https://openbayes.com/console/signup?r=Ada0322_NR0n

4. 리소스가 할당될 때까지 기다리세요. 첫 번째 클로닝 과정은 약 2분이 걸립니다. 상태가 "실행 중"으로 변경되면 "API 주소" 옆에 있는 점프 화살표를 클릭하여 데모 페이지로 이동합니다. API 주소 접근 기능을 이용하기 위해서는 이용자는 실명인증을 완료해야 합니다.

효과 표시

데모 페이지에 접속하면 모델을 체험해 볼 수 있습니다. 이 튜토리얼에서는 DeepCoder-14B-Preview 모델을 데모 케이스로 사용하고 bitsandbytes가 제공하는 8비트 양자화 방법을 채택하여 비디오 메모리 사용을 최적화합니다.

"입력" 열에 내용을 입력하고 "제출"을 클릭하면 생성됩니다. 대화 기록을 지우려면 "기록 지우기"를 클릭하세요.

여기서는 고전적인 버블 정렬을 예로 들어보겠습니다. 이 모델이 질문에 매우 빠르게 응답하는 것을 볼 수 있습니다.