Command Palette

Search for a command to run...

Nemotron-CC-Math 数学预训练数据集

日期

2 个月前

机构

Boston University
NVIDIA(英伟达)

论文链接

2508.15096

许可协议

其他

加入 Discord 社区

Nemotron-CC-Math 是由英伟达和波士顿大学于 2025 年发布的一个以数学为重点的高质量大规模预训练数据集,相关论文成果为「Nemotron-CC-Math: A 133 Billion-Token-Scale High Quality Math Pretraining Dataset」,旨在保存和展示高价值的数学和代码内容,从而推动下一波智能的、具有全球能力的语言模型。

该数据集包含 1,330 亿 Token,基于 NVIDIA Lynx 与轻量 LLM 的抽取与规范化管线自 Common Crawl 构建。在保留方程与代码版式结构的同时,将数学内容统一为可编辑的 LaTeX 格式,首次在 Web 规模上可靠覆盖多种(含长尾)数学格式;其优势已在多项基准中得到验证。

数据集构建流程

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供