Nemotron-Cascade-SFT-SWE est un ensemble de données d'entraînement publié par NVIDIA pour les tâches de génie logiciel, dont les résultats de recherche sont présentés dans l'article « Nemotron-Cascade: Scaling Cascaded Reinforcement Learning for General-Purpose Reasoning Models », visant à améliorer les capacités des grands modèles de langage dans des tâches de génie logiciel telles que la localisation de code, la réparation de code et la génération de cas de test.

Cet ensemble de données intègre des données provenant de plusieurs sources, notamment SWE-Bench-Train, SWE-reBench, SWE-Smith, R2E-Gym/R2E-Gym-Subset et SWE-Fixer-Train, et applique un filtrage de difficulté et un ajustement des échantillons en fonction des besoins d'entraînement en supervision fine (SFT) et en apprentissage par renforcement (RL). Pour réduire le risque de contamination des données d'évaluation, l'ensemble de données exclut les instances provenant des dépôts de code impliqués dans l'ensemble d'évaluation SWE-Bench_Verified.

Composition de l'ensemble de données

L'ensemble de données comprend les trois fichiers JSONL suivants :

• swe_localization.jsonl : tâche de localisation de code, utilisée pour localiser les fichiers de code à examiner ou à modifier.
• swe_repair.jsonl : tâche de réparation de code, utilisée pour générer des solutions de correction de code.
• swe_testgen.jsonl : tâche de génération de cas de test, utilisée pour générer des cas de test validant le comportement du code.

Chaque échantillon contient principalement les champs suivants :

• category : catégorie de tâche, comprenant SWE Localization, SWE Repair et SWE TestGen.
• source : source des données d'origine.
• messages : liste de messages contenant les invites utilisateur et les réponses du modèle.
• generator : nom du modèle utilisé pour générer la réponse du modèle.
• patch : informations de commentaires liées à l'issue concernée, faisant référence aux commentaires publiés avant le premier commit de la PR de solution.
• thinking : valeur booléenne indiquant si le mode de réflexion est activé.