AceMath RewardBench est un ensemble de données publié par NVIDIA en 2024 pour évaluer les capacités des modèles de récompense mathématique, avec les résultats de recherche associés présentés dans « AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling », visant à mesurer de manière exhaustive les performances des modèles de récompense de raisonnement mathématique dans un cadre best-of-N (N=8).

Cet ensemble de données comprend des échantillons de 7 ensembles de données : GSM8K (1319 questions), Math500 (500 questions), Minerva Math (272 questions), Gaokao 2023 en (385 questions), OlympiadBench (675 questions), College Math (2818 questions) et MMLU STEM (3018 questions). Chaque échantillon contient un problème mathématique, 64 tentatives de réponses de qualités différentes générées par 8 modèles de langage différents tels que Qwen2/2.5-Math, LLama3.1, Mathtral et deepseek-math, le score de vérité terrain pour chaque réponse, ainsi que des métadonnées telles que la difficulté du problème et le domaine thématique. Ce benchmark met l'accent sur la diversité et la robustesse, en évaluant les résultats moyens via un échantillonnage aléatoire avec 100 graines aléatoires.

Composition de l'ensemble de données

L'ensemble de données comprend les champs suivants :

• question : description textuelle du problème mathématique
• code : liste complète des réponses/solutions générées par le modèle
• gt : réponse de vérité terrain
• pred : liste des prédictions extraites de chaque réponse du modèle
• score : liste de valeurs booléennes indiquant si chaque réponse correspond à la réponse de vérité terrain
• report : rapport associé
• idx : index
• gt_cot : chaîne de pensée de vérité terrain

Citation

@article{acemath2024,
  title={AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling},
  author={Liu, Zihan and Chen, Yang and Shoeybi, Mohammad and Catanzaro, Bryan and Ping, Wei},
  journal={arXiv preprint},
  year={2024}
}