OpenMathInstruct-1 是由 NVIDIA 于 2024 年发布的一个包含 180 万对问题-解决方案的数学指令微调数据集，相关论文成果为「OpenMathInstruct-1: A 1.8 Million Math Instruction Tuning Dataset」，旨在通过合成数据提升模型在数学推理和代码生成方面的能力。

该数据集包含来自 GSM8K 和 MATH 训练子集的问题，解决方案由 Mixtral-8x7B 模型结合文本推理与 Python 代码解释器执行生成。 数据集分为训练集和验证集，覆盖了 GSM8K 和 MATH 的完整训练集范围，并提供了详细的字段信息如预期答案、预测答案及错误信息等。

数据集组成

该数据集包含以下字段：

• question：来自 GSM8K 或 MATH 训练集的原题。
• generated_solution：混合了文本推理和代码块的合成解决方案。
• expected_answer：原始数据集中提供的事实标准答案。
• predicted_answer：Mixtral 模型在相应解决方案中提取的答案（从 \boxed{} 中提取）。
• error_message：如果未使用代码，则为 <not_executed>；否则为空或包含来自相应代码块的 Python 异常。timeout 字符串表示代码块执行时间超过 10 秒。
• is_correct：最终答案是否被评分脚本判定为正确。
• dataset：来源数据集，gsm8k 或 math。
• generation_type：without_reference_solution 或 masked_reference_solution。

Citation

@article{toshniwal2024openmath,
  title   = {OpenMathInstruct-1: A 1.8 Million Math Instruction Tuning Dataset},
  author  = {Shubham Toshniwal and Ivan Moshkov and Sean Narenthiran and Daria Gitman and Fei Jia and Igor Gitman},
  year    = {2024},
  journal = {arXiv preprint arXiv: Arxiv-2402.10176}
}