HyperAIHyperAI

Command Palette

Search for a command to run...

HelpSteer Hilfreichkeits-Ausrichtungsdatensatz

Datum

Organisation

NVIDIA

Paper-URL

2311.09528

Lizenz

CC BY 4.0

HelpSteer ist ein von NVIDIA im Jahr 2023 veröffentlichtes Datenset zur Ausrichtung großer Sprachmodelle. Es zielt darauf ab, die Hilfreichkeit, Korrektheit und Kohärenz der Modellantworten zu verbessern und ermöglicht die Anpassung von Komplexität und Ausführlichkeit der Antworten. Die Ergebnisse des zugehörigen Forschungsbeitrags sind unter „HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM“ verfügbar.

Das Datenset umfasst 37.120 Beispiele und deckt verschiedene Aufgabentypen ab, darunter Umschreibung, Zusammenfassung, Klassifikation, Extraktion und Frage-Antwort-Aufgaben. Jedes Beispiel enthält eine Eingabeaufforderung, eine Modellantwort sowie von Menschen annotierte Bewertungen für fünf Attribute: Hilfreichkeit, Korrektheit, Kohärenz, Komplexität und Ausführlichkeit. Die Bewertungen liegen im Bereich von 0 bis 4. Die Daten wurden von Scale AI annotiert und dienen hauptsächlich dem Training, der Evaluation und der Ausrichtungsforschung großer Sprachmodelle.

Zusammensetzung des Datensets

Das Datenset ist in einen Trainings- und einen Validierungsteil unterteilt:

  • Trainingsset (train): 35.331 Beispiele.
  • Validierungsset (validation): 1.789 Beispiele.

Jedes Beispiel enthält hauptsächlich die folgenden Felder:

  • prompt: Eingabeaufforderung.
  • response: Vom großen Sprachmodell generierte Antwort.
  • helpfulness: Bewertung der Hilfreichkeit.
  • correctness: Bewertung der Korrektheit.
  • coherence: Bewertung der Kohärenz.
  • complexity: Bewertung der Komplexität.
  • verbosity: Bewertung der Ausführlichkeit.
数据集示例
数据集示例

Citation

@misc{wang2023helpsteer,
      title={HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM}, 
      author={Zhilin Wang and Yi Dong and Jiaqi Zeng and Virginia Adams and Makesh Narsimhan Sreedhar and Daniel Egert and Olivier Delalleau and Jane Polak Scowcroft and Neel Kant and Aidan Swope and Oleksii Kuchaiev},
      year={2023},
      eprint={2311.09528},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

@misc{dong2023steerlm,
      title={SteerLM: Attribute Conditioned SFT as an (User-Steerable) Alternative to RLHF}, 
      author={Yi Dong and Zhilin Wang and Makesh Narsimhan Sreedhar and Xianchao Wu and Oleksii Kuchaiev},
      year={2023},
      eprint={2310.05344},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp