Nemotron-SFT-Safety-v1 est un jeu de données d'alignement de sécurité publié par NVIDIA en 2025. Ce jeu de données combine des invites collectées de sources ouvertes et des réponses générées de manière synthétique, pouvant être utilisé pour l'apprentissage supervisé (SFT). Il aide les modèles à réduire les sorties nuisibles, à atténuer les refus excessifs, à diminuer les biais et à prévenir la fuite de contenus sensibles, visant ainsi à améliorer les capacités des grands modèles de langage en matière de sécurité du contenu, de défense contre les jailbreaks et d'alignement comportemental sécurisé.

Le jeu de données comprend 45 145 exemples, au format JSONL, composés principalement d'invites et de réponses sécurisées générées de manière synthétique. Il est sous la licence Creative Commons Attribution 4.0 International (CC BY 4.0), avec des licences complémentaires Apache 2.0 et MIT.

Composition du jeu de données

• Sécurité du contenu (25 536 exemples) : Les sources incluent Nemotron Content Safety Dataset v2, Gretel Safety Alignment Dataset v1 et des invites de catégories sensibles générées de manière synthétique, couvrant des risques tels que l'automutilation, la violence et la planification d'activités criminelles.
• Robustesse aux jailbreaks (9 653 exemples) : Les sources incluent HarmfulTasks, RedTeam 2k et des données de jailbreaks et de potentielles injections de prompts générées de manière synthétique, visant à renforcer la capacité du modèle à résister aux attaques.
• Atténuation des refus excessifs (7 023 exemples) : En construisant des invites comparatives grammaticalement similaires mais sémantiquement différentes, cela aide le modèle à réduire les refus inutiles de demandes normales.
• Réduction des biais (2 000 exemples) : Ciblant les biais liés aux caractéristiques démographiques telles que l'âge, cela réduit la tendance du modèle à produire des réponses discriminatoires.
• Protection contre la fuite de contenus sensibles (933 exemples) : Utilisé pour réduire le risque que le modèle divulgue des contenus potentiellement protégés par le droit d'auteur.