Nemotron-Pretraining-Code-v1 est un ensemble de jeux de données de code à grande échelle sélectionnés basés sur GitHub et publiés par NVIDIA en 2025. Les résultats de l'article associé sont «NVIDIA Nemotron Nano 2 : un modèle de raisonnement hybride Mamba-Transformer précis et efficace" Cet ensemble de données, filtré par déduplication en plusieurs étapes, application des licences et contrôles de qualité heuristiques, contient des paires questions-réponses de code générées par LLM dans 11 langages de programmation. Les données comprennent non seulement 175,1 milliards de jetons de code synthétisé de haute qualité, mais également des métadonnées (environ 747,4 milliards de jetons) pour faciliter la reproduction par l'utilisateur.

Citation

@misc{nvidia2025nvidianemotronnano2, titre={NVIDIA Nemotron Nano 2 : un modèle de raisonnement hybride Mamba-Transformer précis et efficace}, auteur={NVIDIA et : et Aarti Basant et Abhijit Khairnar et Abhijit Paithankar et Abhinav Khattar et Adithya Renduchintala et Aditya Malte et Akhiad Bercovich et Akshay Hazare et Alejandra Rico et Aleksander Ficek et Alex Kondratenko et Alex Shaposhnikov et Alexander Bukharin et Ali Taghibakhshi et Amelia Barton et Ameya Sunil Mahabaleshwarkar et Amy Shen et Andrew Tao et Ann Guan et Anna Shors et Anubhav Mandarwal et Arham Mehta et Arun Venkatesan et Ashton Sharabiani et Ashwath Aithal et Ashwin Poojary et Ayush Dattagupta et Balaram Buddharaju et Banghua Zhu et Barnaby Simkin et Bilal Kartal et Bita Darvish Rouhani et Bobby Chen et Boris Ginsburg et Brandon Norick et Brian Yu et Bryan Catanzaro et Charles Wang et Charlie Truong et Chetan Mungekar et Chintan Patel et Chris Alexiuk et Christian Munley et Christopher Parisien et Dan Su et Daniel Afrimi et Daniel Korzekwa et Daniel Rohrer et Daria Gitman et David Mosallanezhad et Deepak Narayanan et Dima Rekesh et Dina Yared et Dmytro Pykhtar et Dong Ahn et Duncan Riach et Eileen Long et Elliott Ning et Eric Chung et Erick Galinkin et Evelina Bakhturina et Gargi Prasad et Gerald Shen et Haifeng Qian et Haim Elisha et Harsh Sharma et Hayley Ross et Helen Ngo et Herman Sahota et Hexin Wang et Hoo Chang Shin et Hua Huang et Iain Cunningham et Igor Gitman et Ivan Moshkov et Jaehun Jung et Jan Kautz et Jane Polak Scowcroft et Jared Casper et Jian Zhang et Jiaqi Zeng et Jimmy Zhang et Jinze Xue et Jocelyn Huang et Joey Conway et John Kamalu et Jonathan Cohen et Joseph Jennings et Julien Veron Vialard et Junkeun Yi et Jupinder Parmar et Kari Briski et Katherine Cheung et Katherine Luna et Keith Wyss et Keshav Santhanam et Kezhi Kong et Krzysztof Pawelec et Kumar Anik et Kunlun Li et Kushan Ahmadian et Lawrence McAfee et Laya Sleiman et Leon Derczynski et Luis Vega et Maer Rodrigues de Melo et Makesh Narsimhan Sreedhar et Marcin Chochowski et Mark Cai et Markus Kliegl et Marta Stepniewska-Dziubinska et Matvei Novikov et Mehrzad Samadi et Meredith Price et Meriem Boubdir et Michael Boone et Michael Evans et Michal Bien et Michal Zawalski et Miguel Martinez et Mike Chrzanowski et Mohammad Shoeybi et Mostofa Patwary et Namit Dhameja et Nave Assaf et Negar Habibi et Nidhi Bhatia et Nikki Pope et Nima Tajbakhsh et Nirmal Kumar Juluru et Oleg Rybakov et Oleksii Hrinchuk et Oleksii Kuchaiev et Oluwatobi Olabiyi et Pablo Ribalta et Padmavathy Subramanian et Parth Chadha et Pavlo Molchanov et Peter Dykas et Peter Jin et Piotr Bialecki et Piotr Januszewski et Pradeep Thalasta et Prashant Gaikwad et Prasoon Varshney et Pritam Gundecha et Przemek Tredak et Rabeeh Karimi Mahabadi et Rajen Patel et Ran El-Yaniv et Ranjit Rajan et Ria Cheruvu et Rima Shahbazyan et Ritika Borkar et Ritu Gala et Roger Waleffe et Ruoxi Zhang et Russell J. Hewett et Ryan Prenger et Sahil Jain et Samuel Kriman et Sanjeev Satheesh et Saori Kaji et Sarah Yurick et Saurav Muralidharan et Sean Narenthiran et Seonmyeong Bak et Sepehr Sameni et Seungju Han et Shanmugam Ramasamy et Shaona Ghosh et Sharath Turuvekere Sreenivas et Shelby Thomas et Shizhe Diao et Shreya Gopal et Shrimai Prabhumoye et Shubham Toshniwal et Shuoyang Ding et Siddharth Singh et Siddhartha Jain et Somshubra Majumdar et Soumye Singhal et Stefania Alborghetti et Syeda Nahida Akter et Terry Kong et Tim Moon et Tomasz Hliwiak et Tomer Asida et Tony Wang et Tugrul Konuk et Twinkle Vashishth et Tyler Poon et Udi Karpas et Vahid Noroozi et Venkat Srinivasan et Vijay Korthikanti et Vikram Fugro et Vineeth Kalluru et Vitaly Kurin et Vitaly Lavrukhin et Wasi Uddin Ahmad et Wei Du et Wonmin Byeon et Ximing Lu et Xin Dong et Yashaswi Karnati et Yejin Choi et Yian Zhang et Ying Lin et Yonggan Fu et Yoshi Suhara et Zhen Dong et Zhiyu Li et Zhongbo Zhu et Zijia Chen}, année={2025}, eprint={2508.14444}, préfixe d'archive={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2508.14444}, }