Nemotron-Cascade-SFT-SWE は、NVIDIA が公開したソフトウェアエンジニアリングタスク向けのトレーニングデータセットであり、関連する論文成果は「Nemotron-Cascade: Scaling Cascaded Reinforcement Learning for General-Purpose Reasoning Models」です。このデータセットは、大規模言語モデルのコード特定、コード修正、テストケース生成などのソフトウェアエンジニアリングタスクにおける能力を向上させることを目的としています。

このデータセットは、SWE-Bench-Train、SWE-reBench、SWE-Smith、R2E-Gym/R2E-Gym-Subset、SWE-Fixer-Train など、複数のソースからのデータを統合し、教師ありファインチューニング（SFT）および強化学習（RL）のトレーニング要件に応じて、難易度のフィルタリングとサンプル調整を行っています。評価データの汚染リスクを低減するため、データセットは SWE-Bench_Verified 評価セットに含まれるコードリポジトリに由来するインスタンスを除外しています。

データセット構成

データセットには、以下の3つの JSONL ファイルが含まれています：

• swe_localization.jsonl：コード特定タスク。検査または修正が必要なコードファイルを特定するために使用されます。
• swe_repair.jsonl：コード修正タスク。コード修正案を生成するために使用されます。
• swe_testgen.jsonl：テストケース生成タスク。コードの動作を検証するテストケースを生成するために使用されます。

各サンプルには、主に以下のフィールドが含まれています：

• category：タスクカテゴリ。SWE Localization、SWE Repair、SWE TestGen が含まれます。
• source：元のデータソース。
• messages：ユーザープロンプトとモデルレスポンスを含むメッセージリスト。
• generator：モデルレスポンスの生成に使用されたモデル名。
• patch：関連する Issue に関するコメント情報。ソリューション PR の初回コミット前に投稿されたコメントを指します。
• thinking：ブール値。思考モードを採用するかどうかを示すために使用されます。