Der Daring-Anteater-Datensatz wurde von NVIDIA im Jahr 2024 veröffentlicht und ist ein umfassender Datensatz für das Instruktionstuning. Die zugehörige Forschungsarbeit findet sich unter «HelpSteer2: Open-source dataset for training top-performing reward models, mit dem Ziel die Reproduzierbarkeit zu fördern und leistungsstarke Belohnungsmodelle zu trainieren.

Dieser Datensatz umfasst etwa 95.000 Samples, wobei der Großteil durch proprietäre Modelle von NVIDIA sowie Mixtral-8x7B-Instruct-v0.1 synthetisch generiert wurde. Der Rest stammt aus kommerziell freundlichen Teilmenge von FinQA, WikitableQuestions und Open-Platypus.
Er deckt eine breite Palette an Aufgaben und Szenarien ab und wird hauptsächlich zur überwachten Feinabstimmung (Supervised Fine-Tuning, SFT) sowie nachfolgender Präferenzanpassung verwendet.
Lizenziert ist er unter CC-BY-4.0 und erlaubt auch kommerzielle Nutzung.

Aufbau des Datensatzes

Der Datensatz enthält vier Hauptfelder:

• Konversationen: Dialogrunden zwischen Benutzer und Assistent
• Maskierung: Runden ohne Verlustberechnung (Standardmäßig „Benutzer“)
• Systemaufforderung: Systemprompt
• Quelle: Herkunft des Datensatzes

Zusammengesetzt setzt sich dieser Datensatz aus folgenden Teilmengen zusammen:

• Synthetic_Conv: 82.450 Samples
• Synthetic_Roleplay: 2.996 Samples
• Synthetic_Mathematik: 3.000 Samples
• Synthetic_Präzise_Instruktionsfolge: 1.500 Samples
• Synthetic_JSON_Format_Folge: 1.499 Samples
• Synthetische_Komplexe_Anweisung: 1.500 Samples
• Open_Plattycup_kommerziell: 6.000 Samples
• FinQA: 300 Samples
• Wikitablefragen: 287 Samples

Zitation

@misc{wang2024helpsteer2,
      title={HelpSteer2: Open-source dataset for training top-performing reward models}, 
      author={Zhilin Wang and Yi Dong and Olivier Delalleau and Jiaqi Zeng and Gerald Shen and Daniel Egert and Jimmy J. Zhang and Makesh Narsimhan Sreedhar and Oleksii Kuchaiev},
      year={2024},
      eprint={2406.08673},
      archivePrefix={arXiv},
      primaryClass={id='cs.CL' full_name='Computation and Language' is_active=True alt_name='cmp-lg' in_archive='cs' is_general=False description='Covers natural language processing. Roughly includes material in ACM Subject Class I.2.7. Note that work on artificial languages (programming languages, logics, formal systems) that does not explicitly address natural-language issues broadly construed (natural-language processing, computational linguistics, speech, text retrieval, etc.) is not appropriate for this area.'}
}