开源 3 年,Triton 引领 AI 编译器新浪潮
2019 年,Philippe Tillet 等人在论文「Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations」中首次提出 Triton 。 2020 年,Philippe Tillet 加入 OpenAI,继续领导着 Triton 项目的开发,并于 2021 年首次公开发布了 Triton 编译器。
论文地址:https://dl.acm.org/doi/10.1145/3315508.3329973
Triton 编译器旨在让研究人员和开发者能够以更少的代码量,实现与专家级 CUDA 相媲美的性能,无论是在海外还是国内的深度学习发展进程中都备受关注。
自 2021 年开源以来,Triton 以其卓越的性能和灵活性,迅速在全球范围内受到广泛关注和应用。不仅被应用于 PyTorch 、 Unsloth 、 FlagGems 等多个开源项目,更获得了 NVIDIA 、 AMD 、 Intel 、 Qualcomm 等芯片巨头的鼎力支持。
此外,Google 、 Microsoft 、 OpenAI 、 AWS 和 Meta 等 AI 领域的领军企业,也纷纷将 Triton 作为构建开放 AI 软件栈的关键技术。 Triton 正在逐步成为更加低门槛、高可用的 AI 编译器新选项。
首个完整版 Triton 中文文档上线
尽管 Triton 的影响力在全球 AI 领域迅速崛起,但在中文领域,Triton 相关的资料及资源还相对稀缺,其应用与研究的广度和深度都还有待拓展。基于此,HyperAI 超神经社区志愿者,以开源协作的方式,耗时 3 个月、经历一译二校的严格把关,完成了 Triton 全部文档的本土化,现已完整上线至 https://triton.hyper.ai/。
Triton 中文文档在英文文档的基础上,经过本土化架构调整,更贴合中文开发者的阅读习惯,提供了从 Triton 安装到开发应用的一系列详尽实用指南。
Triton | 借助这份文档,你可以:
* 零基础入门 Triton,轻松理解其核心概念与应用
* 深入了解 Triton 的高级特性,探索创新路径
* 迅速定位实践问题并获取解决方案,提高效率
* 追踪 Triton 前沿技术动态,紧跟技术更新
* 参与中文文档的社区讨论,协作共创技术生态
文档的「引用项目」部分,收集了部分使用 Triton 的开源和闭源明星项目,通过这些真实案例,开发者可以更深入地理解 Triton 在实际项目中的落地应用,掌握其优化及融合技巧。
从 TVM 到 Triton:
构建多元包容的 AI 编译器社区
2022 年,HyperAI 超神经上线国内首个 Apache TVM 中文文档(点击查看原文:TVM 中文站正式上线!最全机器学习模型部署「参考书」它来了),在国产芯片如火如荼高歌猛进之际,我们为国内的编译器工程师提供了了解和学习 TVM 的基础设施,同时我们也联合 Apache TVM PMC 冯思远博士等人,组建起国内最活跃的 TVM 中文社区,通过线上线下等活动,吸纳主流国产芯片厂商的参与和支持,覆盖千余位芯片开发者和编译器工程师。
TVM 中文文档地址:
两年之后,我们希望不断扩大社区的技术边界和内容范畴,组建更加开放、多元、包容的 AI 编译器社区,除 Apache TVM 之外,积极拥抱 LLVM 、 MLIR 等老牌编译器技术和相关工程师、项目,此次 Triton 中文站的上线,也表明了我们致力于把 AI 编译器社区「朋友圈做大」的决心。
TVM 、 Triton 中文文档仍在更新中,中文文档作为基础设施,只是构建生态的第一步,在生态的上游,我们离不开围绕 AI 编译器的开发工具、操作系统,在生态的下游更是离不开硬件制造商和服务提供商。只有构建起全链路的合作伙伴,串联起每一环、每一伙伴的真实需求,并为其降低壁垒、提供价值,才能创造更多合作进步的可能。
期待更多企业伙伴的加入,共建更开放、多元、包容的 AI 编译器社区!
查看完整 Triton 中文文档:https://triton.hyper.ai/
在 GitHub 🌟 Triron 中文:https://github.com/hyperai/triton-cn