Ollama+Open WebUI Stellt Kimi-Dev-72B-GGUF Bereit

1. Einführung in das Tutorial

Kimi-Dev-72B ist ein Open-Source-Modell für große Sprachen, das für Softwareentwicklungsaufgaben entwickelt wurde und am 17. Juni 2025 vom Team des chinesischen Unternehmens für künstliche Intelligenz, Dark Side of the Moon, veröffentlicht wurde. Es erreichte eine Leistung von 60,41 TP3T im SWE-Bench Verified-Programmier-Benchmark-Test und gewann die Meisterschaft mit nur 7,2 Milliarden Parametern. Damit übertraf es die kürzlich veröffentlichte neue Version von DeepSeek-R1 mit 67,1 Milliarden Parametern und wurde zum SOTA unter den aktuellen Open-Source-Modellen.

Hauptmerkmale:

• Code-Reparatur (BugFixer): Lokalisieren Sie automatisch Fehler im Code und generieren Sie Reparatur-Patches, um Schwachstellen und Mängel bei der Softwareentwicklung zu beheben.
• Testcode-Generierung (TestWriter): Schreiben Sie Unit-Tests für vorhandenen Code, um die Codequalität und funktionale Korrektheit sicherzustellen.
• Automatisierter Entwicklungsprozess: Basierend auf bestärkendem Lernen und einem Selbstspielmechanismus koordiniert er Reparatur- und Testfunktionen, um die Entwicklungseffizienz zu verbessern.
• Integration mit Entwicklungstools: In Zukunft wird es tief in IDE, Versionskontrollsysteme und CI/CD-Pipelines integriert und nahtlos in den Entwicklungsworkflow integriert.

Technisches Prinzip:

• Rollenverteilung (BugFixer und TestWriter): Das Modell übernimmt zwei Rollen, die jeweils für die Korrektur von Code und das Schreiben von Tests verantwortlich sind, und beide teilen sich das Framework für den Dateispeicherort und die Codebearbeitung.
• Während des Trainings: Verwenden Sie für das Training etwa 150 Milliarden hochwertige Datenpunkte, um das Verständnis des Modells für tatsächliche Entwicklungsaufgaben zu verbessern.
• Reinforcement Learning: Führen Sie den Code in einer Docker-Umgebung aus und vergeben Sie Belohnungen basierend auf den Testergebnissen, um die Codebearbeitungsfunktionen des Modells zu verbessern.
• Self-Play während der Testphase: Während der Testphase generiert das Modell mehrere Patches und Testkandidaten und koordiniert Reparatur- und Testfunktionen basierend auf einem Self-Play-Mechanismus, um die Gesamtleistung zu verbessern.

Anwendungsszenarien:

• Codereparatur: Erkennen und reparieren Sie Fehler oder Schwachstellen im Code schnell und reduzieren Sie so den Zeitaufwand für die manuelle Fehlersuche und Reparatur.
• Testcode-Generierung: Generieren Sie hochwertigen Unit-Testcode für vorhandenen Code, um die Testabdeckung zu verbessern.
• Automatisierung des Entwicklungsprozesses: Integriert sich in gängige IDEs, um Vorschläge zur Codereparatur in Echtzeit und Funktionen zur Testcodegenerierung bereitzustellen.
• Programmierunterricht: Helfen Sie Anfängern, Programmierkenntnisse schnell zu verstehen und zu beherrschen, indem Sie zur Unterstützung des Lernens Beispielcode und Testcode generieren.
• Wartung von Open-Source-Projekten: Helfen Sie den Betreuern von Open-Source-Projekten, Schwachstellen schnell zu beheben und Codes zu optimieren, um die Qualität und Stabilität des Projekts zu verbessern.

Die Rechenressourcen dieses Tutorials nutzen eine einzelne RTX A6000-Karte. Das in diesem Tutorial eingesetzte Modell ist Kimi-Dev-72B-GGUF/Kimi-Dev-72B-IQ4_NL.gguf.

2. Effektanzeige

3. Bedienungsschritte

1. Starten Sie den Container

2. Nachdem Sie die Webseite aufgerufen haben, können Sie ein Gespräch mit dem Modell beginnen

Wenn „Modell“ nicht angezeigt wird, bedeutet dies, dass das Modell initialisiert wird. Da das Modell groß ist, warten Sie bitte etwa 2-3 Minuten und aktualisieren Sie die Seite.

4. Diskussion

🖌️ Wenn Sie ein hochwertiges Projekt sehen, hinterlassen Sie bitte im Hintergrund eine Nachricht, um es weiterzuempfehlen! Darüber hinaus haben wir auch eine Tutorien-Austauschgruppe ins Leben gerufen. Willkommen, Freunde, scannen Sie den QR-Code und kommentieren Sie [SD-Tutorial], um der Gruppe beizutreten, verschiedene technische Probleme zu besprechen und Anwendungsergebnisse auszutauschen ↓

Zitationsinformationen

Die Zitationsinformationen für dieses Projekt lauten wie folgt:

@misc{kimi_dev_72b_2025,
  title        = {Introducing Kimi-Dev-72B: A Strong and Open Coding LLM for Issue Resolution},
  author       = {{Kimi-Dev Team}},
  year         = {2025},
  month        = {June},
  url          = {\url{https://www.moonshot.cn/Kimi-Dev}}
}