Orca-Math-200K est un ensemble de données synthétiques de haute qualité créé par Microsoft qui contient environ 200 000 questions de mathématiques pour l'école primaire. Toutes les réponses de cet ensemble de données sont générées à l’aide d’Azure GPT4-Turbo.

Les chercheurs ont créé plusieurs agents pour aider à la construction de l’ensemble de données. Le processus de création impliquait la construction d'un ensemble de semences, la génération de questions Agent-Ask Me Anything, la génération collaborative Agent-proposant-éditeur, l'importation d'un ensemble de données DMath, l'amélioration de l'ensemble de données et le processus d'apprentissage itératif. Cet ensemble de données vise à améliorer les capacités mathématiques des modèles de langage afin de fournir une base solide aux modèles de langage pour résoudre les problèmes mathématiques.