Daring-Anteater は、NVIDIA が 2024年に公開したインストラクションファインチューニング用の包括的なデータセットです。関連論文は「HelpSteer2: Open-source dataset for training top-performing reward models」で発表されており、再現性の促進と高パフォーマンスな報酬モデルの訓練を目的としています。

このデータセットには約 95,000 のサンプルが含まれており、その大半は NVIDIA の独自モデルおよび Mixral-8x7B-Instruct-v0.1 によって合成生成されました。残りのサンプルは、FinQA、wikitablequestions、Open-Platypus の商用フレンドリーサブセット由来となっています。
本データセットは幅広いタスクやシナリオを対象としており、主に教師ありファインチューニング（SFT）とその後の好意調整に使用されます。
CC-BY-4.0 ライセンスのもとオープンソース化され、商業利用も可能です。

データセット構成

このデータセットには以下の4つの主要フィールドがあります：

• conversations：ユーザーとアシスタント間の会話ターン
• mask：損失計算を行わないターン（デフォルトは "User"）
• system：システムプロンプト
• dataset：データの出典元

データセットは次のようなサブセットから構成されています：

• synthetic_conv：82,450 サンプル
• synthetic_roleplay：2,996 サンプル
• synthetic_math：3,000 サンプル
• synthetic_precise_instruction_following：1,500 サンプル
• synthetic_json_format_following：1,499 サンプル
• synthetic_complex_instruction：1,500 サンプル
• open_platypus_commercial：6,000 サンプル
• FinQA：300 サンプル
• wikitablequestions：287 サンプル

引用情報

@misc{wang2024helpsteer2,
      title={HelpSteer2: Open-source dataset for training top-performing reward models}, 
      author={Zhilin Wang and Yi Dong and Olivier Delalleau and Jiaqi Zeng and Gerald Shen and Daniel Egert and Jimmy J. Zhang and Makesh Narsimhan Sreedhar and Oleksii Kuchaiev},
      year={2024},
      eprint={2406.08673},
      archivePrefix={arXiv},
      primaryClass={id='cs.CL' full_name='Computation and Language' is_active=True alt_name='cmp-lg' in_archive='cs' is_general=False description='Covers natural language processing. Roughly includes material in ACM Subject Class I.2.7. Note that work on artificial languages (programming languages, logics, formal systems) that does not explicitly address natural-language issues broadly construed (natural-language processing, computational linguistics, speech, text retrieval, etc.) is not appropriate for this area.'}
}