SFT DataBlend V1은 NVIDIA가 2024년에 발표한 고품질 데이터셋으로, 대형 언어 모델에 엄선되고 혼합된 지시 데이터를 제공하기 위해 설계되었습니다.

이 데이터셋은 OASST, CodeContests, FLAN, T0, Open_Platypus, GSM8K 등 여러 공개 데이터셋의 샘플을 혼합한 모음입니다. 상업적 사용 가능성을 보장하기 위해 이 혼합 데이터셋은 느슨한 라이선스를 가진 하위 집합만 포함하며, 샘플링 비율과 데이터셋 크기에 따라 일부 하위 집합에 대해 여러 차례의 샘플링 처리를 수행했습니다. 이 데이터셋은 자연어 이해, 논리적 추론부터 코드 생성 및 수학 문제 해결에 이르기까지 다양한 분야를 포괄하며, 모델 학습을 위해 풍부하고 다양한 데이터 지원을 제공합니다.

데이터셋 구성

데이터셋은 주로 다음 필드를 포함합니다:

• conversations: 대화 내용으로, 사용자와 어시스턴트의 다중 턴 상호작용 형식으로 구성됩니다.
• mask: 대화에서 손실 계산에 참여하거나 참여하지 않는 턴을 식별하며, 기본적으로 사용자 턴은 마스킹됩니다.
• system: 시스템 프롬프트로, 기본적으로 비어 있습니다.
• dataset: 데이터 출처 식별자로, 샘플이 속한 원본 데이터셋을 추적하는 데 사용됩니다.

데이터셋은 여러 공개 데이터셋을 통합하여 다음과 같은 작업 유형을 포괄합니다:

• 자연어 이해: MNLI, QNLI, SNLI 등 포함.
• 질문 답변 및 독해: SQuAD, DROP, Natural Questions, TriviaQA 등 포함.
• 논리 및 상식 추론: ARC, HellaSwag, PIQA, COPA 등 포함.
• 수학 추론: GSM8K, SciBench, PRM800K 등 포함.
• 코드 생성: CodeContests, tigerbot-leetcodesolutions-en-2k 등 포함.
• 텍스트 생성: FLAN, T0, DART, E2ENLG 등 포함.