Nemotron-Pretraining-Code-v1 est un ensemble de jeux de données de code à grande échelle sélectionnés basés sur GitHub et publiés par NVIDIA en 2025. Les résultats de l'article associé sont «NVIDIA Nemotron Nano 2 : un modèle de raisonnement hybride Mamba-Transformer précis et efficace"

Cet ensemble de données, filtré par déduplication en plusieurs étapes, application des licences et contrôles de qualité heuristiques, contient des paires questions-réponses de code générées par LLM dans 11 langages de programmation. Les données comprennent non seulement 175,1 milliards de jetons de code synthétisé de haute qualité, mais également des métadonnées (environ 747,4 milliards de jetons) pour faciliter la reproduction par l'utilisateur.