Command Palette
Search for a command to run...
HelpSteer Dataset D'alignement D'utilité
HelpSteer est un ensemble de données publié par NVIDIA en 2023 pour l'alignement des grands modèles de langage, visant à améliorer l'utilité, la correction et la cohérence des réponses du modèle, tout en permettant d'ajuster la complexité et le niveau de détail des réponses. Les résultats de la publication associée sont présentés dans « HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM ».
Cet ensemble de données comprend 37 120 exemples, couvrant diverses tâches telles que la réécriture, le résumé, la classification, l'extraction et les questions-réponses. Chaque exemple contient un prompt, une réponse du modèle ainsi que des notes manuelles attribuées par des annotateurs humains selon cinq attributs : utilité, correction, cohérence, complexité et niveau de détail, avec une échelle de notation allant de 0 à 4. Les données ont été annotées par Scale AI et sont principalement utilisées pour l'entraînement, l'évaluation et la recherche sur l'alignement des grands modèles de langage.
Composition de l'ensemble de données
L'ensemble de données est divisé en deux parties : un ensemble d'entraînement et un ensemble de validation :
- Ensemble d'entraînement (train) : 35 331 exemples.
- Ensemble de validation (validation) : 1 789 exemples.
Chaque exemple contient principalement les champs suivants :
- prompt : le prompt d'entrée.
- response : la réponse générée par le grand modèle de langage.
- helpfulness : note d'utilité.
- correctness : note de correction.
- coherence : note de cohérence.
- complexity : note de complexité.
- verbosity : note de niveau de détail.
Citation
@misc{wang2023helpsteer,
title={HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM},
author={Zhilin Wang and Yi Dong and Jiaqi Zeng and Virginia Adams and Makesh Narsimhan Sreedhar and Daniel Egert and Olivier Delalleau and Jane Polak Scowcroft and Neel Kant and Aidan Swope and Oleksii Kuchaiev},
year={2023},
eprint={2311.09528},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
@misc{dong2023steerlm,
title={SteerLM: Attribute Conditioned SFT as an (User-Steerable) Alternative to RLHF},
author={Yi Dong and Zhilin Wang and Makesh Narsimhan Sreedhar and Xianchao Wu and Oleksii Kuchaiev},
year={2023},
eprint={2310.05344},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
Créer de l'IA avec l'IA
De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.