Nemotron-Pretraining-SFT-v1 は、NVIDIA が 2025 年にリリースした合成生成データセットです。関連論文は「NVIDIA Nemotron Nano 2: 正確で効率的なハイブリッド Mamba-Transformer 推論モデル」で、指示の追跡、推論、コード、一般的な質問への回答などのタスクにおけるモデルの機能を強化することを目的としています。

このデータセットは、STEM、学術、論理的推論、多言語シナリオを対象としています。高品質な数学・科学教材から拡張・生成され、大学院レベルの学術テキストと、指導・調整されたSFTデータを組み合わせることで、数学、コーディング、一般知識、論理的推論など、複数のタスクを網羅する複雑な多肢選択問題と分析問題（完全な解答・アイデア付き）を構築できます。

Nemotron 事前トレーニング データの公式統計では、SFT 関連のカテゴリ (Math SFT、Code SFT、General SFT など) が大きな割合を占めており、ユーザーは再現可能な実験のメタデータに従って必要なサブセットを簡単にフィルター処理できます。