Nemotron-MIND 是由 NVIDIA 于 2024 年发布的一个包含超过 1,380 亿标记的结构化数学对话的数据集，包含 2.316 亿条记录，总存储量为 827 GB，涵盖辩论、问题解决、师生对话等七种不同的社交对话风格,相关论文成果为「MIND: Math Informed syNthetic Dialogues for Pretraining LLMs」，旨在通过合成对话数据提升大语言模型的数学推理能力。

数据集组成

• TWO STUDENTS：两名学生之间的对话。
• TEACHER STUDENT：教师与学生之间的对话。
• TWO PROFESSORS：两名教授之间的对话。
• DEBATE：辩论形式的对话。
• PROBLEM SOLVING：围绕问题分析与解决展开的对话。
• LAYMAN KNOWALL：以外行全知为风格的对话。
• INTERVIEW：面试形式的对话。

Citation

@inproceedings{
akter2025mind,
title={{MIND}: Math Informed syNthetic Dialogues for Pretraining {LLM}s},
author={Syeda Nahida Akter and Shrimai Prabhumoye and John Kamalu and Sanjeev Satheesh and Eric Nyberg and Mostofa Patwary and Mohammad Shoeybi and Bryan Catanzaro},
booktitle={The Thirteenth International Conference on Learning Representations},
year={2025},
url={https://openreview.net/forum?id=TuOTSAiHDn}
}