HyperAIHyperAI

Command Palette

Search for a command to run...

Nemotron-CC-Math 数学预训练数据集

Discuss on Discord

Date

4 个月前

Organization

Boston University
NVIDIA(英伟达)

Paper URL

2508.15096

License

Other

Nemotron-CC-Math 是由英伟达和波士顿大学于 2025 年发布的一个以数学为重点的高质量大规模预训练数据集,相关论文成果为「Nemotron-CC-Math: A 133 Billion-Token-Scale High Quality Math Pretraining Dataset」,旨在保存和展示高价值的数学和代码内容,从而推动下一波智能的、具有全球能力的语言模型。

该数据集包含 1,330 亿 Token,基于 NVIDIA Lynx 与轻量 LLM 的抽取与规范化管线自 Common Crawl 构建。在保留方程与代码版式结构的同时,将数学内容统一为可编辑的 LaTeX 格式,首次在 Web 规模上可靠覆盖多种(含长尾)数学格式;其优势已在多项基准中得到验证。

数据集构建流程

Build AI with AI

From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.

AI Co-coding
Ready-to-use GPUs
Best Pricing

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供