SFT DataBlend V1 ist ein hochwertiger Datensatz für die Instruction Fine-Tuning, der 2024 von NVIDIA veröffentlicht wurde und darauf abzielt, große Sprachmodelle mit sorgfältig ausgewählten und gemischten Instruction-Daten zu versorgen.

Dieser Datensatz ist eine Mischung aus mehreren öffentlich verfügbaren Datensätzen, darunter Proben von OASST, CodeContests, FLAN, T0, Open_Platypus und GSM8K. Um die kommerzielle Nutzbarkeit sicherzustellen, enthält der gemischte Datensatz nur Teilmengen mit liberalen Lizenzen, wobei einige Teilmengen basierend auf Stichprobenraten und Datensatzgröße mehrfach abgetastet wurden. Er deckt Bereiche von Natural Language Understanding über logisches Reasoning bis hin zu Code-Generierung und mathematischem Problemlösen ab und bietet so eine reichhaltige und vielfältige Datenbasis für das Modelltraining.

Zusammensetzung des Datensatzes

Der Datensatz enthält hauptsächlich die folgenden Felder:

• conversations: Gesprächsinhalte, organisiert im Format mehrstufiger Interaktionen zwischen Benutzer und Assistent.
• mask: Kennzeichnet die Runden im Gespräch, die an der Verlustberechnung teilnehmen oder nicht; standardmäßig werden die Benutzer-Runden maskiert.
• system: System-Prompt, standardmäßig leer.
• dataset: Kennzeichnung der Datenquelle, zur Nachverfolgung des ursprünglichen Datensatzes, aus dem die Probe stammt.

Der Datensatz integriert mehrere öffentliche Datensätze und deckt folgende Aufgabentypen ab:

• Natural Language Understanding: Einschließlich MNLI, QNLI, SNLI usw.
• Question Answering & Reading Comprehension: Einschließlich SQuAD, DROP, Natural Questions, TriviaQA usw.
• Logisches und Common-Sense-Reasoning: Einschließlich ARC, HellaSwag, PIQA, COPA usw.
• Mathematisches Reasoning: Einschließlich GSM8K, SciBench, PRM800K usw.
• Code-Generierung: Einschließlich CodeContests, tigerbot-leetcodesolutions-en-2k usw.
• Textgenerierung: Einschließlich FLAN, T0, DART, E2ENLG usw.