HyperAIHyperAI

Command Palette

Search for a command to run...

HelpSteer Dataset D'alignement D'utilité

Date

Organisation

NVIDIA

URL du document

2311.09528

Licence

CC BY 4.0

HelpSteer est un ensemble de données publié par NVIDIA en 2023 pour l'alignement des grands modèles de langage, visant à améliorer l'utilité, la correction et la cohérence des réponses du modèle, tout en permettant d'ajuster la complexité et le niveau de détail des réponses. Les résultats de la publication associée sont présentés dans « HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM ».

Cet ensemble de données comprend 37 120 exemples, couvrant diverses tâches telles que la réécriture, le résumé, la classification, l'extraction et les questions-réponses. Chaque exemple contient un prompt, une réponse du modèle ainsi que des notes manuelles attribuées par des annotateurs humains selon cinq attributs : utilité, correction, cohérence, complexité et niveau de détail, avec une échelle de notation allant de 0 à 4. Les données ont été annotées par Scale AI et sont principalement utilisées pour l'entraînement, l'évaluation et la recherche sur l'alignement des grands modèles de langage.

Composition de l'ensemble de données

L'ensemble de données est divisé en deux parties : un ensemble d'entraînement et un ensemble de validation :

  • Ensemble d'entraînement (train) : 35 331 exemples.
  • Ensemble de validation (validation) : 1 789 exemples.

Chaque exemple contient principalement les champs suivants :

  • prompt : le prompt d'entrée.
  • response : la réponse générée par le grand modèle de langage.
  • helpfulness : note d'utilité.
  • correctness : note de correction.
  • coherence : note de cohérence.
  • complexity : note de complexité.
  • verbosity : note de niveau de détail.
数据集示例
数据集示例

Citation

@misc{wang2023helpsteer,
      title={HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM}, 
      author={Zhilin Wang and Yi Dong and Jiaqi Zeng and Virginia Adams and Makesh Narsimhan Sreedhar and Daniel Egert and Olivier Delalleau and Jane Polak Scowcroft and Neel Kant and Aidan Swope and Oleksii Kuchaiev},
      year={2023},
      eprint={2311.09528},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

@misc{dong2023steerlm,
      title={SteerLM: Attribute Conditioned SFT as an (User-Steerable) Alternative to RLHF}, 
      author={Yi Dong and Zhilin Wang and Makesh Narsimhan Sreedhar and Xianchao Wu and Oleksii Kuchaiev},
      year={2023},
      eprint={2310.05344},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp