OpenCodeInstruct 是由 NVIDIA 于 2025 年发布的一个包含 500 万条多样化样本的大型代码指令微调数据集，相关论文成果为「OpenCodeInstruct: A Large-scale Instruction Tuning Dataset for Code LLMs」，旨在为监督微调（SFT）提供高质量数据以改进开源代码大语言模型。

该数据集专为训练专注于代码生成的语言模型而设计，采用自动化与合成混合的数据收集及标注方法。

数据集组成

该数据集主要包含训练集（train），包含 500 万条样本，每个样本包含以下字段：

• id: 每个问题的标识符（字符串）
• input: 输入的编程问题（字符串）
• output: 大语言模型的响应（字符串）
• domain: 领域类型，分为 "generic"（通用）或 "algorithmic"（算法）（字符串）
• generation_algorithm: 生成算法，分为 "self-instruct" 或 "evol-instruct"（字符串）
• llm_judgement: 包含大语言模型基于多个标准评估响应的 JSON 字典的字符串表示
• unit_tests: 断言语句列表的字符串表示
• tests_execution_status: 指示 "pass" 或 "fail" 的字符串列表，表示测试执行状态
• average_test_score: 通过测试用例的比例（浮点数）

Citation

@article{ahmad2025opencodeinstruct,
      title={OpenCodeInstruct: A Large-scale Instruction Tuning Dataset for Code LLMs}, 
      author={Wasi Uddin Ahmad and Aleksander Ficek and Mehrzad Samadi and Jocelyn Huang and Vahid Noroozi and Somshubra Majumdar and Boris Ginsburg},
      year={2025},
      eprint={2504.04030},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2504.04030}, 
}