Nemotron-SFT-Safety-v1 是由 NVIDIA 于 2025 年发布的安全对齐数据集，该数据集结合开源收集的提示词与合成生成的回复，可用于监督微调（SFT），帮助模型减少有害输出、缓解过度拒绝、降低偏见并防止敏感内容泄露，旨在提升大语言模型在内容安全、越狱防御和安全行为对齐等方面的能力。

数据集包含 45,145 条样本，采用 JSONL 格式，主要由提示词和合成生成的安全回复组成，采用知识共享署名 4.0 国际许可协议（CC BY 4.0），补充许可证包括 Apache 2.0 和 MIT。

数据集组成

• 内容安全（25,536 条）：来源包括 Nemotron Content Safety Dataset v2、Gretel Safety Alignment Dataset v1 和合成生成的敏感类别提示词，涵盖自残、暴力、犯罪策划等风险。
• 越狱鲁棒性（9,653 条）：来源包括 HarmfulTasks、RedTeam 2k 及合成生成的越狱和潜在提示注入数据，用于提升模型抵御攻击的能力。
• 过度拒绝缓解（7,023 条）：通过构造语法相似但语义不同的对比提示词，帮助模型减少对正常请求的不必要拒绝。
• 偏见减轻（2,000 条）：针对年龄等人口统计特征相关的偏见，减少模型产生歧视性回复的倾向。
• 敏感内容泄露防护（933 条）：用于降低模型泄露可能受版权保护内容的风险。