Nemotron-Math는 NVIDIA가 2026년에 공개한 대규모 수학 추론 데이터셋으로, 관련 논문 성과는 「Nemotron-Math: Efficient Long-Context Distillation of Mathematical Reasoning from Multi-Mode Supervision」이며, 대규모 언어 모델의 수학 추론 능력을 훈련하고 평가하기 위한 고품질 데이터를 제공하는 것을 목표로 합니다.

이 데이터셋은 총 3,638,783개의 훈련 샘플을 포함하며, 전체 디스크 크기는 약 144GB입니다. 데이터의 문제는 AoPS 커뮤니티 및 Math StackExchange/MathOverflow 포럼에서 비롯되었으며, 엄격한 선별과 검증을 거쳐 최종 답변이 참조 답변과 일치하는 고품질 해결 궤적만을 보존했습니다. 데이터셋은 Python 도구 통합 추론(TIR)을 사용하는 모드와 도구를 사용하지 않는 모드 두 가지의 사고 사슬(CoT) 솔루션을 포함하며, 도구 강화 추론, 순수 언어 추론 및 다중 궤적 추론 시스템 연구에 적합합니다. AoPS에서 비롯된 샘플은 크리에이티브 커먼즈 저작자표시 4.0 국제 라이선스(CC BY 4.0)를 적용하고, StackExchange Math에서 비롯된 샘플은 크리에이티브 커먼즈 저작자표시-동일조건변경허락 4.0 국제 라이선스(CC BY-SA 4.0)를 적용합니다.

데이터셋 구성

• uuid: 샘플의 식별자
• problem: 문제 설명, AoPS, Math StackExchange 및 MathOverflow에서 비롯됨
• messages: system, user, assistant 및 tool 역할을 포함하는 표준화된 다중 턴 대화 시퀀스로, LLM 훈련에 사용됨
• expected_answer: 검증된 목표 답변
• changed_answer_to_majority: 원래 추출된 답변이 생성된 답변의 다수결 투표로 대체되었는지 여부를 나타내는 불리언 값
• data_source: 문제 출처, AoPS 또는 StackExchange-Math로 구분됨
• license: 각 샘플의 라이선스 태그, AoPS 샘플은 cc-by-4.0, StackExchange 샘플은 cc-by-sa-4.0 사용
• tool_usage: 추론 모드 태그, 샘플이 Python TIR을 사용하는지 여부를 나타냄
• tools: 도구 정의 목록, 비도구 샘플은 비어 있고, TIR 샘플은 Python 도구 사양을 포함함
• url: 원본 문제의 하이퍼링크
• user_url: 원본 작성자 프로필의 하이퍼링크
• user_name: 원본 작성자 사용자 이름
• used_in: 다운스트림 사용 표시를 위한 예약 필드