Ollama+Open WebUI Déploie Kimi-Dev-72B-GGUF

1. Introduction au tutoriel

Kimi-Dev-72B est un modèle de langage open source de grande taille conçu pour les tâches d'ingénierie logicielle, publié par l'équipe de la société chinoise d'intelligence artificielle Dark Side of the Moon le 17 juin 2025. Il a atteint une performance de 60,4% dans le test de référence de programmation vérifié SWE-bench et a remporté le championnat avec seulement 7,2 milliards de paramètres, surpassant la nouvelle version récemment publiée de DeepSeek-R1 avec 67,1 milliards de paramètres, devenant le SOTA parmi les modèles open source actuels.

Caractéristiques principales :

• Réparation de code (BugFixer) : localisez automatiquement les erreurs dans le code et générez des correctifs de réparation pour résoudre les vulnérabilités et les défauts du développement logiciel.
• Génération de code de test (TestWriter) : écrivez des tests unitaires pour le code existant afin de garantir la qualité du code et l'exactitude fonctionnelle.
• Processus de développement automatisé : basé sur l'apprentissage par renforcement et le mécanisme d'auto-jeu, il coordonne les capacités de réparation et de test pour améliorer l'efficacité du développement.
• Intégration avec les outils de développement : à l'avenir, il sera profondément intégré à l'IDE, aux systèmes de contrôle de version et aux pipelines CI/CD, et parfaitement intégré au flux de travail de développement.

Principe technique :

• Répartition des rôles (BugFixer et TestWriter) : Le modèle joue deux rôles, chargé respectivement de corriger le code et d'écrire des tests, et tous deux partagent le cadre de l'emplacement des fichiers et de l'édition du code.
• Formation intermédiaire : utilisez environ 150 milliards de points de données de haute qualité pour la formation afin d’améliorer la compréhension du modèle des tâches de développement réelles.
• Apprentissage par renforcement : exécutez le code dans un environnement Docker et attribuez des récompenses en fonction des résultats des tests pour améliorer les capacités d'édition de code du modèle.
• Auto-jeu au moment du test : pendant la phase de test, le modèle génère plusieurs correctifs et candidats au test, et coordonne les capacités de réparation et de test en fonction d'un mécanisme d'auto-jeu pour améliorer les performances globales.

Scénarios d'application :

• Réparation de code : détectez et réparez rapidement les erreurs ou les vulnérabilités dans le code, réduisant ainsi le temps de dépannage et de réparation manuels.
• Génération de code de test : générez du code de test unitaire de haute qualité pour le code existant afin d'améliorer la couverture des tests.
• Automatisation du processus de développement : s'intègre aux principaux IDE pour fournir des suggestions de réparation de code en temps réel et des fonctions de génération de code de test.
• Éducation à la programmation : aidez les débutants à comprendre et à maîtriser rapidement les compétences de programmation en générant des exemples de code et du code de test pour faciliter l'apprentissage.
• Maintenance de projets open source : aidez les mainteneurs de projets open source à corriger rapidement les vulnérabilités et à optimiser les codes pour améliorer la qualité et la stabilité du projet.

Les ressources de calcul de ce tutoriel utilisent une seule carte RTX A6000. Le modèle déployé dans ce tutoriel est Kimi-Dev-72B-GGUF/Kimi-Dev-72B-IQ4_NL.gguf.

2. Affichage des effets

3. Étapes de l'opération

1. Démarrez le conteneur

2. Après être entré sur la page Web, vous pouvez démarrer une conversation avec le modèle

Si « Modèle » n'est pas affiché, cela signifie que le modèle est en cours d'initialisation. Le modèle étant volumineux, veuillez patienter 2 à 3 minutes avant d'actualiser la page.

4. Discussion

🖌️ Si vous voyez un projet de haute qualité, veuillez laisser un message en arrière-plan pour le recommander ! De plus, nous avons également créé un groupe d’échange de tutoriels. Bienvenue aux amis pour scanner le code QR et commenter [Tutoriel SD] pour rejoindre le groupe pour discuter de divers problèmes techniques et partager les résultats de l'application↓

Informations sur la citation

Les informations de citation pour ce projet sont les suivantes :

@misc{kimi_dev_72b_2025,
  title        = {Introducing Kimi-Dev-72B: A Strong and Open Coding LLM for Issue Resolution},
  author       = {{Kimi-Dev Team}},
  year         = {2025},
  month        = {June},
  url          = {\url{https://www.moonshot.cn/Kimi-Dev}}
}