HelpSteer は、NVIDIA が2023年に公開した大規模言語モデルのアライメント用データセットであり、モデルの応答における有用性、正確性、一貫性を向上させることを目的とし、応答の複雑さや詳細度の調整にも対応しています。関連する論文成果は「HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM」です。

このデータセットには37,120件のサンプルが含まれており、書き換え、要約、分類、抽出、質問応答など多様なタスクタイプをカバーしています。各サンプルには、プロンプト、モデル応答、および人間がアノテーションした有用性、正確性、一貫性、複雑さ、詳細度の5つの属性スコア（0〜4の範囲）が含まれています。データはScale AIによってアノテーションが組織され、主に大規模言語モデルのトレーニング、評価、モデルアライメント研究に使用されています。

データセット構成

データセットはトレーニングセットと検証セットの2つの部分に分かれています：

• トレーニングセット（train）：35,331件のサンプル。
• 検証セット（validation）：1,789件のサンプル。

各サンプルには主に以下のフィールドが含まれています：

• prompt：入力プロンプト。
• response：大規模言語モデルによって生成された応答。
• helpfulness：有用性スコア。
• correctness：正確性スコア。
• coherence：一貫性スコア。
• complexity：複雑さスコア。
• verbosity：詳細度スコア。

Citation

@misc{wang2023helpsteer,
      title={HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM}, 
      author={Zhilin Wang and Yi Dong and Jiaqi Zeng and Virginia Adams and Makesh Narsimhan Sreedhar and Daniel Egert and Olivier Delalleau and Jane Polak Scowcroft and Neel Kant and Aidan Swope and Oleksii Kuchaiev},
      year={2023},
      eprint={2311.09528},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

@misc{dong2023steerlm,
      title={SteerLM: Attribute Conditioned SFT as an (User-Steerable) Alternative to RLHF}, 
      author={Yi Dong and Zhilin Wang and Makesh Narsimhan Sreedhar and Xianchao Wu and Oleksii Kuchaiev},
      year={2023},
      eprint={2310.05344},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}