Ollama+Open WebUI는 Kimi-Dev-72B-GGUF를 배포합니다.
1. 튜토리얼 소개

Kimi-Dev-72B는 중국 인공지능 기업 Dark Side of the Moon 팀이 2025년 6월 17일에 공개한 소프트웨어 엔지니어링 작업을 위해 설계된 오픈 소스 대규모 언어 모델입니다. SWE-bench Verified 프로그래밍 벤치마크 테스트에서 60.4%의 성능을 달성했으며, 72억 개의 매개변수만으로 우승을 차지하여 최근 출시된 새로운 버전의 DeepSeek-R1(매개변수 671억 개)을 제치고 현재 오픈 소스 모델 중 최고 성능(SOTA)을 달성했습니다.
주요 특징:
- 코드 복구(BugFixer): 코드의 오류를 자동으로 찾아 복구 패치를 생성하여 소프트웨어 개발의 취약성과 결함을 해결합니다.
- 테스트 코드 생성(TestWriter): 기존 코드에 대한 단위 테스트를 작성하여 코드 품질과 기능적 정확성을 보장합니다.
- 자동화된 개발 프로세스: 강화 학습과 셀프 게임 메커니즘을 기반으로 수리 및 테스트 기능을 조정하여 개발 효율성을 개선합니다.
- 개발 도구와의 통합: 향후에는 IDE, 버전 제어 시스템, CI/CD 파이프라인과 긴밀하게 통합되어 개발 워크플로에 원활하게 통합될 예정입니다.
기술 원리:
- 역할 구분(BugFixer 및 TestWriter): 이 모델은 각각 코드 수정과 테스트 작성이라는 두 가지 역할을 수행하며, 두 역할 모두 파일 위치 지정 및 코드 편집 프레임워크를 공유합니다.
- 중간 학습: 약 1,500억 개의 고품질 데이터 포인트를 학습에 사용하여 모델이 실제 개발 작업을 더 잘 이해하도록 돕습니다.
- 강화 학습: Docker 환경에서 코드를 실행하고 테스트 결과에 따라 보상을 제공하여 모델의 코드 편집 기능을 개선합니다.
- 테스트 시간 자체 플레이: 테스트 단계에서 모델은 여러 패치와 테스트 후보를 생성하고, 자체 플레이 메커니즘을 기반으로 수리 및 테스트 기능을 조정하여 전반적인 성능을 개선합니다.
적용 시나리오:
- 코드 복구: 코드의 오류나 취약점을 빠르게 감지하고 복구하여 수동 문제 해결 및 복구에 소요되는 시간을 줄입니다.
- 테스트 코드 생성: 기존 코드에 대한 고품질 단위 테스트 코드를 생성하여 테스트 범위를 개선합니다.
- 개발 프로세스 자동화: 주요 IDE와 통합하여 실시간 코드 수정 제안과 테스트 코드 생성 기능을 제공합니다.
- 프로그래밍 교육: 샘플 코드와 테스트 코드를 생성하여 학습을 돕고, 초보자가 프로그래밍 기술을 빠르게 이해하고 익힐 수 있도록 돕습니다.
- 오픈소스 프로젝트 유지 관리: 오픈소스 프로젝트 유지 관리자가 취약점을 신속하게 수정하고 코드를 최적화하여 프로젝트 품질과 안정성을 개선할 수 있도록 지원합니다.
이 튜토리얼의 컴퓨팅 리소스는 단일 RTX A6000 카드를 사용합니다. 이 튜토리얼에 배포된 모델은 Kimi-Dev-72B-GGUF/Kimi-Dev-72B-IQ4_NL.gguf입니다.
2. 효과 표시

3. 작업 단계
1. 컨테이너를 시작하세요

2. 웹페이지에 접속 후 모델과 대화를 시작할 수 있습니다.
"모델"이 표시되지 않으면 모델이 초기화 중임을 의미합니다. 모델이 용량이 크므로 2~3분 정도 기다린 후 페이지를 새로고침해 주세요.

4. 토론
🖌️ 고품질 프로젝트를 발견하시면, 백그라운드에 메시지를 남겨 추천해주세요! 또한, 튜토리얼 교환 그룹도 만들었습니다. 친구들의 QR코드 스캔과 [SD 튜토리얼] 댓글을 통해 그룹에 가입하여 다양한 기술 이슈에 대해 논의하고 신청 결과를 공유해 주시기 바랍니다.↓

인용 정보
이 프로젝트에 대한 인용 정보는 다음과 같습니다.
@misc{kimi_dev_72b_2025,
title = {Introducing Kimi-Dev-72B: A Strong and Open Coding LLM for Issue Resolution},
author = {{Kimi-Dev Team}},
year = {2025},
month = {June},
url = {\url{https://www.moonshot.cn/Kimi-Dev}}
}