SFT DataBlend V1 est un jeu de données de haute qualité pour l'ajustement d'instructions, publié par NVIDIA en 2024, conçu pour fournir aux grands modèles de langage des données d'instructions rigoureusement filtrées et mélangées.

Ce jeu de données est une collection mélangeant plusieurs jeux de données accessibles publiquement, notamment des échantillons de OASST, CodeContests, FLAN, T0, Open_Platypus et GSM8K. Pour garantir une utilisation commerciale, ce jeu de données mélangé ne contient que des sous-ensembles dotés de licences permissives, et certains sous-ensembles ont fait l'objet d'un échantillonnage multiple en fonction du taux d'échantillonnage et de la taille du jeu de données. Il couvre des domaines allant de la compréhension du langage naturel et du raisonnement logique à la génération de code et à la résolution de problèmes mathématiques, offrant ainsi un soutien riche et diversifié pour l'entraînement des modèles.

Composition du jeu de données

Le jeu de données contient principalement les champs suivants :

• conversations : contenu des conversations, organisé sous forme d'interactions multi-tours entre l'utilisateur et l'assistant.
• mask : identifie les tours participant ou non au calcul de la perte, les tours de l'utilisateur étant masqués par défaut.
• system : prompt système, vide par défaut.
• dataset : identifiant de la source des données, utilisé pour suivre le jeu de données d'origine auquel appartient l'échantillon.

Le jeu de données intègre plusieurs jeux de données publics, couvrant les types de tâches suivants :

• Compréhension du langage naturel : inclut MNLI, QNLI, SNLI, etc.
• Questions-réponses et compréhension de lecture : inclut SQuAD, DROP, Natural Questions, TriviaQA, etc.
• Raisonnement logique et commun : inclut ARC, HellaSwag, PIQA, COPA, etc.
• Raisonnement mathématique : inclut GSM8K, SciBench, PRM800K, etc.
• Génération de code : inclut CodeContests, tigerbot-leetcodesolutions-en-2k, etc.
• Génération de texte : inclut FLAN, T0, DART, E2ENLG, etc.