Command Palette
Search for a command to run...
HelpSteer Hilfreichkeits-Ausrichtungsdatensatz
HelpSteer ist ein von NVIDIA im Jahr 2023 veröffentlichtes Datenset zur Ausrichtung großer Sprachmodelle. Es zielt darauf ab, die Hilfreichkeit, Korrektheit und Kohärenz der Modellantworten zu verbessern und ermöglicht die Anpassung von Komplexität und Ausführlichkeit der Antworten. Die Ergebnisse des zugehörigen Forschungsbeitrags sind unter „HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM“ verfügbar.
Das Datenset umfasst 37.120 Beispiele und deckt verschiedene Aufgabentypen ab, darunter Umschreibung, Zusammenfassung, Klassifikation, Extraktion und Frage-Antwort-Aufgaben. Jedes Beispiel enthält eine Eingabeaufforderung, eine Modellantwort sowie von Menschen annotierte Bewertungen für fünf Attribute: Hilfreichkeit, Korrektheit, Kohärenz, Komplexität und Ausführlichkeit. Die Bewertungen liegen im Bereich von 0 bis 4. Die Daten wurden von Scale AI annotiert und dienen hauptsächlich dem Training, der Evaluation und der Ausrichtungsforschung großer Sprachmodelle.
Zusammensetzung des Datensets
Das Datenset ist in einen Trainings- und einen Validierungsteil unterteilt:
- Trainingsset (train): 35.331 Beispiele.
- Validierungsset (validation): 1.789 Beispiele.
Jedes Beispiel enthält hauptsächlich die folgenden Felder:
- prompt: Eingabeaufforderung.
- response: Vom großen Sprachmodell generierte Antwort.
- helpfulness: Bewertung der Hilfreichkeit.
- correctness: Bewertung der Korrektheit.
- coherence: Bewertung der Kohärenz.
- complexity: Bewertung der Komplexität.
- verbosity: Bewertung der Ausführlichkeit.
Citation
@misc{wang2023helpsteer,
title={HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM},
author={Zhilin Wang and Yi Dong and Jiaqi Zeng and Virginia Adams and Makesh Narsimhan Sreedhar and Daniel Egert and Olivier Delalleau and Jane Polak Scowcroft and Neel Kant and Aidan Swope and Oleksii Kuchaiev},
year={2023},
eprint={2311.09528},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
@misc{dong2023steerlm,
title={SteerLM: Attribute Conditioned SFT as an (User-Steerable) Alternative to RLHF},
author={Yi Dong and Zhilin Wang and Makesh Narsimhan Sreedhar and Xianchao Wu and Oleksii Kuchaiev},
year={2023},
eprint={2310.05344},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
KI mit KI entwickeln
Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.