1. 튜토리얼 소개

DeepCoder-14B-Preview 프로젝트는 AGENTICA가 2025년 4월 8일에 발표한 14B 인코딩 모델입니다. 이 모델은 코드 추론을 위해 DeepSeek-R1-Distilled-Qwen-14B LLM에서 미세 조정되었으며, 분포 강화 학습(RL)을 사용하여 긴 컨텍스트 길이에 맞춰 확장됩니다. 이 모델은 LiveCodeBench v5(8/1/24-2/1/25)에서 60.6%의 Pass@1 정확도를 달성했으며, 이는 기본 모델(53%)보다 8%가 향상되었고, 매개변수가 14B에 불과한 OpenAI의 o3-mini와 비슷한 성능을 달성했습니다.

이 튜토리얼에서는 DeepCoder-14B-Preview 모델을 데모 케이스로 사용하고 bitsandbytes가 제공하는 8비트 양자화 방법을 채택하여 비디오 메모리 사용을 최적화합니다. 이 양자화 방법은 모델의 성능에 어느 정도 영향을 미칠 수 있다는 점에 유의해야 합니다. 사용된 컴퓨팅 파워 리소스는 RTX4090입니다.

2. 작업 단계

1. 컨테이너 시작 후 API 주소를 클릭하여 웹 인터페이스로 진입합니다.

"잘못된 게이트웨이"가 표시되면 모델이 초기화 중임을 의미합니다. 약 1~2분 정도 기다려 주신 후 페이지를 새로고침해 주세요.

2. 기능 시연

아래와 같이 "오류: HTTPConnectionPool(host="localhost, port=8000): URL: /v1/completions에서 최대 재시도 횟수를 초과했습니다."라는 메시지가 표시되면 모델이 초기화 중임을 의미합니다. 약 1~2분 정도 기다린 후 페이지를 새로고침하세요.

인용 정보

GitHub 사용자에게 감사드립니다 슈퍼양  이 튜토리얼 제작을 위한 프로젝트 참조 정보는 다음과 같습니다.

@misc{deepcoder2025,
  title={DeepCoder: A Fully Open-Source 14B Coder at O3-mini Level},
  author={Michael Luo, Sijun Tan, Roy Huang, Xiaoxiang Shi, Rachel Xin, Colin Cai, Ameen Patel, Alpay Ariyak, Qingyang Wu, Ce Zhang, Li Erran Li, Raluca Ada Popa, Ion Stoica},
  howpublished={\url{https://pretty-radio-b75.notion.site/DeepCoder-A-Fully-Open-Source-14B-Coder-at-O3-mini-Level-1cf81902c14680b3bee5eb349a512a51}},
  note={Notion Blog},
  year={2025}
}

@misc{deepscaler2025,
  title={DeepScaleR: Surpassing O1-Preview with a 1.5B Model by Scaling RL},
  author={Michael Luo and Sijun Tan and Justin Wong and Xiaoxiang Shi and William Y. Tang and Manan Roongta and Colin Cai and Jeffrey Luo and Li Erran Li and Raluca Ada Popa and Ion Stoica},
  year={2025},
  howpublished={\url{https://pretty-radio-b75.notion.site/DeepScaleR-Surpassing-O1-Preview-with-a-1-5B-Model-by-Scaling-RL-19681902c1468005bed8ca303013a4e2}},
  note={Notion Blog}
  year={2025}
}

교류 및 토론

🖌️ 고품질 프로젝트를 발견하시면, 백그라운드에 메시지를 남겨 추천해주세요! 또한, 튜토리얼 교환 그룹도 만들었습니다. 친구들의 QR코드 스캔과 [SD 튜토리얼] 댓글을 통해 그룹에 가입하여 다양한 기술 이슈에 대해 논의하고 신청 결과를 공유해 주시기 바랍니다.↓