Llama-Nemotron-Post-Training-Dataset トレーニング後のデータセット
Llama-Nemotron-Post-Training-Datasetは、2025年にNVIDIAがオープンソース化した大規模な学習後データセットです。関連する論文の結果は「Llama-Nemotron: 効率的な推論モデルこれは、トレーニング後の段階(SFT や RL など)における Llama-Nemotron シリーズ モデルの数学、コード、一般的な推論、および指示の追従機能を向上させることを目的としています。
このデータセットは、教師あり微調整(SFT)と強化学習(RL)のフェーズから得られたデータを組み合わせたものです。現在のバージョンであるv1.1(以前のバージョンと比較して約220万の数学サンプルと50万のコード推論サンプルが追加されています)は、AIエージェント、チャットボット、RAGシステム、その他のAI駆動型アプリケーションの学習に適しています。
データ分布(カテゴリエントリ数別)
- 数学:22,066,397
- コード: 10,108,883
- 科学: 708,920
- 指示に従う: 56,339
- チャット: 39,792
- 安全: 31,426