Llama-Nemotron-Post-Training-Dataset トレーニング後のデータセット

日付

1ヶ月前

組織

エヌビディア

論文URL

2505.00949

ライセンス

CC BY 4.0

ダウンロードヘルプ

Llama-Nemotron-Post-Training-Datasetは、2025年にNVIDIAがオープンソース化した大規模な学習後データセットです。関連する論文の結果は「Llama-Nemotron: 効率的な推論モデルこれは、トレーニング後の段階(SFT や RL など)における Llama-Nemotron シリーズ モデルの数学、コード、一般的な推論、および指示の追従機能を向上させることを目的としています。

このデータセットは、教師あり微調整(SFT)と強化学習(RL)のフェーズから得られたデータを組み合わせたものです。現在のバージョンであるv1.1(以前のバージョンと比較して約220万の数学サンプルと50万のコード推論サンプルが追加されています)は、AIエージェント、チャットボット、RAGシステム、その他のAI駆動型アプリケーションの学習に適しています。

データ分布(カテゴリエントリ数別)

  • 数学:22,066,397
  • コード: 10,108,883
  • 科学: 708,920
  • 指示に従う: 56,339
  • チャット: 39,792
  • 安全: 31,426