Nemotron-SFT-Safety-v1 は、NVIDIA が 2025 年に公開した安全性アライメント用データセットです。オープンソースから収集したプロンプトと合成生成された応答を組み合わせ、教師あり微調整（SFT）に利用可能で、モデルにおける有害な出力の低減、過度な拒否の緩和、バイアスの低減、機密情報の漏洩防止を支援し、大規模言語モデルにおけるコンテンツの安全性、ジェイルブレイク防御、安全な行動アライメントなどの能力向上を目的としています。

このデータセットには 45,145 件のサンプルが含まれ、JSONL 形式で提供されています。主にプロンプトと合成生成された安全な応答で構成され、クリエイティブ・コモンズ 表示 4.0 国際ライセンス（CC BY 4.0）の下で公開されています。補足ライセンスとして Apache 2.0 および MIT が適用されています。

データセット構成

• コンテンツの安全性（25,536 件）：Nemotron Content Safety Dataset v2、Gretel Safety Alignment Dataset v1、および合成生成された敏感なカテゴリーのプロンプトがソースとして含まれます。自傷行為、暴力、犯罪計画などのリスクを網羅しています。
• ジェイルブレイク耐性（9,653 件）：HarmfulTasks、RedTeam 2k、および合成生成されたジェイルブレイクや潜在的なプロンプトインジェクションデータがソースとして含まれます。モデルの攻撃耐性向上を目的としています。
• 過度な拒否の緩和（7,023 件）：文法的に類似しているが意味が異なる対照的なプロンプトを構築することで、モデルが通常の依頼に対して不必要に拒否することを低減します。
• バイアスの低減（2,000 件）：年齢などの人口統計学的特徴に関連するバイアスに対処し、モデルが差別的な応答を生成する傾向を低減します。
• 機密情報漏洩の防止（933 件）：モデルが著作権で保護される可能性のあるコンテンツを漏洩するリスクを低減するために使用されます。