1. Einführung in das Tutorial

DiffuCoder-7B-cpGRPO, erstmals vom Apple-Team in einer am 25. Juni 2025 veröffentlichten Studie vorgestellt, ist ein auf maskierter Diffusion basierendes Codegenerierungsmodell (dLLM). Es wurde mit über 20.000 sorgfältig ausgewählten Codebeispielen trainiert. Dieses Modell zielt darauf ab, Code durch iterative Rauschunterdrückung zu generieren und zu bearbeiten, anstatt die traditionelle autoregressive Generierung von links nach rechts zu verwenden. Ein wesentliches Merkmal von DiffuCoder-7B-cpGRPO ist seine weniger strikte Abhängigkeit von der Generierung von links nach rechts, was zu einer Verbesserung der Ergebnisse um 4,41 TP3T-Punkte in gängigen Programmier-Benchmarks im Vergleich zu anderen diffusionsbasierten Programmiermodellen führte. Diese nicht-sequenzielle Codegenerierungsfähigkeit macht es flexibler und effizienter bei Aufgaben der Codebearbeitung und -generierung. Die Ergebnisse der zugehörigen Studie sind wie folgt: DiffuCoder: Maskierte Diffusionsmodelle für die Codegenerierung verstehen und verbessern .

Dieses Tutorial verwendet Ressourcen für eine einzelne RTX 4090-Karte.

2. Projektbeispiele

3. Bedienungsschritte

1. Klicken Sie nach dem Starten des Containers auf die API-Adresse, um die Weboberfläche aufzurufen

2. Anwendungsschritte

Wenn „Bad Gateway“ angezeigt wird, bedeutet dies, dass das Modell initialisiert wird. Da das Modell groß ist, warten Sie bitte etwa 2–3 Minuten und aktualisieren Sie die Seite.

Parameterbeschreibung

• Erweiterte Einstellungen:
  • Temperatur: steuert die Vielfalt der Generation, je höher, desto zufälliger, je niedriger, desto deterministischer.
  • Top-p: Der kumulative Schwellenwert der Wahrscheinlichkeitsstichprobe. Je kleiner der Wert, desto konservativer die Generierung.
  • Max-Token: Begrenzt die maximale Länge einer einzelnen Generation des Modells.

4. Diskussion

🖌️ Wenn Sie ein hochwertiges Projekt sehen, hinterlassen Sie bitte im Hintergrund eine Nachricht, um es weiterzuempfehlen! Darüber hinaus haben wir auch eine Tutorien-Austauschgruppe ins Leben gerufen. Willkommen, Freunde, scannen Sie den QR-Code und kommentieren Sie [SD-Tutorial], um der Gruppe beizutreten, verschiedene technische Probleme zu besprechen und Anwendungsergebnisse auszutauschen ↓

Zitationsinformationen

Die Zitationsinformationen für dieses Projekt lauten wie folgt:

@article{gong2025diffucoder,
  title={DiffuCoder: Understanding and Improving Masked Diffusion Models for Code Generation},
  author={Shansan Gong, Ruixiang Zhang, Huangjie Zheng, Jiatao Gu, Navdeep Jaitly, Lingpeng Kong, Yizhe Zhang},
  year={2025},
  eprint={2506.20639},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
  url={https://arxiv.org/abs/2506.20639},
}