AceMath RewardBench ist ein von NVIDIA im Jahr 2024 veröffentlichtes Dataset zur Bewertung der Fähigkeiten von Mathematik-Belohnungsmodellen. Die zugehörige Forschungspublikation ist „AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling", die darauf abzielt, die Leistung von Belohnungsmodellen für mathematisches Denken umfassend im Best-of-N-Setting (N=8) zu bewerten.

Das Dataset umfasst Stichproben aus 7 Datasets: GSM8K (1319 Aufgaben), Math500 (500 Aufgaben), Minerva Math (272 Aufgaben), Gaokao 2023 en (385 Aufgaben), OlympiadBench (675 Aufgaben), College Math (2818 Aufgaben) und MMLU STEM (3018 Aufgaben). Jede Stichprobe enthält eine mathematische Frage, 64 Antwortversuche unterschiedlicher Qualität, die von 8 verschiedenen Sprachmodellen wie Qwen2/2.5-Math, LLama3.1, Mathtral und deepseek-math generiert wurden, die Ground-Truth-Bewertung für jede Antwort sowie Metadaten wie Aufgabenschwierigkeit und Themenbereich. Dieser Benchmark legt den Schwerpunkt auf Vielfalt und Robustheit und bewertet die Durchschnittsergebnisse durch Zufallsstichproben mit 100 zufälligen Seeds.

Dataset-Zusammensetzung

Das Dataset enthält die folgenden Felder:

• question: Die textuelle Beschreibung der mathematischen Aufgabe
• code: Die vollständige Liste der generierten Antworten/Lösungen des Modells
• gt: Die Ground-Truth-Antwort
• pred: Die Liste der aus jeder Modellantwort extrahierten Vorhersagen
• score: Eine Boolesche Liste, die angibt, ob jede Antwort mit der Ground-Truth-Antwort übereinstimmt
• report: Zugehöriger Bericht
• idx: Index
• gt_cot: Ground-Truth-Gedankenkette

Citation

@article{acemath2024,
  title={AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling},
  author={Liu, Zihan and Chen, Yang and Shoeybi, Mohammad and Catanzaro, Bryan and Ping, Wei},
  journal={arXiv preprint},
  year={2024}
}