Nemotron-3-Nano-RL-Training-Blend는 NVIDIA가 2025년에 공개한 Nemotron-3-Nano-30B-A3B 모델 학습용 큐레이션 데이터셋으로, 93,244개의 샘플과 총 6.92GB 용량을 포함하며, 데이터 규모가 적절하고 정교하게 혼합 및 전처리되었습니다. 여러 하위 데이터셋이 비율에 따라 혼합되어 있으며, 지시 수행, 지식问答, 직장 어시스턴트, 구조화 출력, 경쟁 프로그래밍, 수학 추론 등의 작업을 포함합니다. 강화 학습(RLVR, verifiable rewards) 프레임워크를 통해 대규모 언어 모델의 성능을 향상시키는 것을 목표로 합니다.

데이터 샘플은 쉬운 순서에서 어려운 순서로 배열된 커리큘럼 학습 순서에 따라 정렬되어 균형 잡힌 학습 진행을 보장하며, NeMo Gym 프레임워크의 후속 학습 단계에 맞게 설계되었고 상업적 사용을 지원합니다.

데이터셋 구성

이 데이터셋은 다음 구성 요소 데이터셋을 지정된 비율로 혼합한 혼합 데이터셋입니다:

• nvidia/Nemotron-RL-instruction_following (0.17)
• nvidia/Nemotron-RL-knowledge-mcqa (0.20)
• nvidia/Nemotron-RL-agent-workplace_assistant (0.10)
• nvidia/Nemotron-RL-instruction_following-structured_outputs (0.05)
• nvidia/Nemotron-RL-coding-competitive_coding (0.25)
• BytedTsinghua-SIA/DAPO-Math-17k (0.10)
• Skywork/Skywork-OR1-RL-Data (OmniMath 제외) (0.12)