Nemotron-MIND est un ensemble de données de conversations mathématiques structurées publié par NVIDIA en 2024, contenant plus de 138 milliards de jetons, avec 231,6 millions d'enregistrements et un stockage total de 827 Go. Il couvre sept styles de conversation sociale différents, notamment les débats, la résolution de problèmes et les dialogues entre enseignants et élèves. Le résultat de recherche associé est « MIND: Math Informed syNthetic Dialogues for Pretraining LLMs », visant à améliorer les capacités de raisonnement mathématique des grands modèles de langage grâce à des données de conversation synthétiques.

Composition de l'ensemble de données

• TWO STUDENTS : conversations entre deux étudiants.
• TEACHER STUDENT : conversations entre un enseignant et un étudiant.
• TWO PROFESSORS : conversations entre deux professeurs.
• DEBATE : conversations sous forme de débat.
• PROBLEM SOLVING : conversations centrées sur l'analyse et la résolution de problèmes.
• LAYMAN KNOWALL : conversations de style « profane omniscient ».
• INTERVIEW : conversations sous forme d'entretien.

Citation

@inproceedings{
akter2025mind,
title={{MIND}: Math Informed syNthetic Dialogues for Pretraining {LLM}s},
author={Syeda Nahida Akter and Shrimai Prabhumoye and John Kamalu and Sanjeev Satheesh and Eric Nyberg and Mostofa Patwary and Mohammad Shoeybi and Bryan Catanzaro},
booktitle={The Thirteenth International Conference on Learning Representations},
year={2025},
url={https://openreview.net/forum?id=TuOTSAiHDn}
}