HelpSteer ist ein von NVIDIA im Jahr 2023 veröffentlichtes Datenset zur Ausrichtung großer Sprachmodelle, das darauf abzielt, die Hilfreichkeit, Korrektheit und Kohärenz von Modellantworten zu verbessern und die Anpassung von Komplexität und Detailgrad der Antworten zu unterstützen. Die zugehörige Forschungspublikation ist „HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM".

Das Datenset umfasst 37.120 Stichproben, die verschiedene Aufgabentypen wie Umschreiben, Zusammenfassen, Klassifizieren, Extrahieren und Frage-Antwort abdecken. Jede Stichprobe enthält einen Prompt, eine Modellantwort sowie fünf von Menschen annotierte Attributbewertungen – Hilfreichkeit, Korrektheit, Kohärenz, Komplexität und Detailgrad – mit einer Bewertungsskala von 0 bis 4. Die Daten wurden von Scale AI annotiert und dienen hauptsächlich dem Training, der Evaluierung und der Forschung zur Modellausrichtung großer Sprachmodelle.

Datensatz-Zusammensetzung

Das Datenset besteht aus zwei Teilen: Trainings- und Validierungsset:

• Trainingsset (train): 35.331 Stichproben.
• Validierungsset (validation): 1.789 Stichproben.

Jede Stichprobe enthält hauptsächlich die folgenden Felder:

• prompt: Eingabe-Prompt.
• response: Antwort, die vom großen Sprachmodell generiert wurde.
• helpfulness: Bewertung der Hilfreichkeit.
• correctness: Bewertung der Korrektheit.
• coherence: Bewertung der Kohärenz.
• complexity: Bewertung der Komplexität.
• verbosity: Bewertung des Detailgrads.

Zitat

@misc{wang2023helpsteer,
      title={HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM}, 
      author={Zhilin Wang and Yi Dong and Jiaqi Zeng and Virginia Adams and Makesh Narsimhan Sreedhar and Daniel Egert and Olivier Delalleau and Jane Polak Scowcroft and Neel Kant and Aidan Swope and Oleksii Kuchaiev},
      year={2023},
      eprint={2311.09528},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

@misc{dong2023steerlm,
      title={SteerLM: Attribute Conditioned SFT as an (User-Steerable) Alternative to RLHF}, 
      author={Yi Dong and Zhilin Wang and Makesh Narsimhan Sreedhar and Xianchao Wu and Oleksii Kuchaiev},
      year={2023},
      eprint={2310.05344},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}