活动回顾 (上) | 2023 Meet TVM 系列活动完美收官

1 年前

名人堂

大厂事

资讯

神经小兮

特色图像

作者:xixi

编辑:三羊、李宝珠

2023 Meet TVM ·  年终聚会于 12 月 16 日在上海圆满落幕,本次 meetup 不仅邀请到了 4 位 AI 编译器专家为大家带来了精彩的分享,还新增了圆桌讨论环节,以更多元的视角和各位共同讨论大模型时代机器学习系统的创新和挑战。

12 月 16 日 2023 Meet TVM · 年终聚会在上海创业者公共实训基地成功举办!尽管上海气温骤降,但并未减弱社区小伙伴们参与的热情,140 余位学界及业界参与者从各地赶来,加入这场充满圣诞气息的 AI 编译器聚会。

作为 2023 Meet TVM 的收官之战,我们有幸邀请到了来自上海交通大学、 OctoML 、美团、字节跳动、 OpenBayes 贝式计算以及蔚来汽车的 6 位 AI 编译器专家,为大家带来精彩的演讲和圆桌讨论。

2023 Meet TVM · 年终聚会为 2023 的 AI 编译器之旅画上了完美的句号。 2024 年,期待与大家继续携手前行,在 AI 编译器领域共同开创新的篇章。

01 活动内容回顾

以下是活动内容简介以及现场的视频回顾。


关注微信公众号「HyperAI 超神经」,后台回复关键字「TVM 年终聚会」,获取嘉宾完整 PPT 。

📢 插播一条小预告:圆桌会议的内容将于下周以文字实录的形式分享,敬请期待哦~

分享主题:Deep Dive into TVM Unity
内容简介:TVM Unity 经过一年多的迭代升级,预计于近期并入 Apache TVM 主分支,届时也将成为 Apache TVM 主要的编译流程。本次分享将介绍 TVM Unity 的默认编译流程,与现有 TVM 的区别,以及如何迁移现有工作流到 Unity 。
分享视频:

https://www.bilibili.com/video/BV1vb4y1V75R/?spm_id_from=333.337.search-card.all.click

分享主题:Slim-LM: Unified Compilation Framework for Agile Development
内容简介:随着 MLC LLM 和 TVM Unity 逐渐发展,有越来越多的用户想尝试使用 TVM 来部署自己的模型。然而如何灵活高效地使用 TVM 搭建以及编译模型存在着诸多挑战。
基于此需求,TVM 社区最近推出了一套全新框架 Slim-LM 来简化 TVM 搭建以及编译模型流程,包含三大特点:

1. PyTorch 风格的代码定义 TVM 模型

2. 简洁高效的编译工具

3. 统一的量化算法框架

分享视频:

https://www.bilibili.com/video/BV1dC4y1S7Gj/?spm_id_from=333.337.search-card.all.click

分享主题:基于 TVM 的编译优化实践
内容简介:随着 AI 编译器的迭代发展,其可用性、易用性得到了极大程度的提高,TVM 作为 AI 编译器的代表之一,如何发挥其最大作用、改善自身不足、并在搜、广、推等业务场景大规模落地,是一个重要问题,本次分享主要从以上视角展开介绍。
分享视频:

https://www.bilibili.com/video/BV1Ja4y1k7ba/?spm_id_from=333.337.search-card.all.click

分享主题:朝着无缝模型编译集成迈进
内容简介:模型编译在 AI 加速中变得越来越重要。然而,在 IT 公司中采用模型编译用于生产模型并不是一件简单的事情。主要的负担包括来自不同领域、框架或格式的模型,从现有库过渡以及采用新的 ASIC 。为了解决这些问题,ByteIR 被开发出来以提高模型编译的生产力。 ByteIR 建立在 OpenXLA 和 LLVM/MLIR 编译器基础设施之上。它包括前端、编译器和运行时组件,每个组件解决不同的问题。这三个组件可以一起工作,也可以选择独立工作以满足不同的业务需求。
分享视频:

https://www.bilibili.com/video/BV1Nu4y1K7Af/?spm_id_from=333.337.search-card.all.click

02 2024 Meet TVM · 敬请期待

2023 年 Q1-Q4,我们在上海、北京、深圳成功举办了 4 场线下 meetup,很开心能够在不同的城市汇聚起关注 AI 编译器的工程师,为大家提供一个学习交流的平台。 2024 年,我们将继续开拓 TVM 城市地图,诚挚邀请各位企业及社区伙伴们以各种形式参与共创,无论是推荐讲师还是提供场地、茶歇,我们都非常欢迎的。让我们携手创造国内最活跃的 AI 编译器社区!最后分享一张现场的大合影❤️

2023 年 Q1-Q4,我们在上海、北京、深圳成功举办了 4 场线下 meetup,很开心能够在不同的城市汇聚起关注 AI 编译器的工程师,为大家提供一个学习交流的平台。 2024 年,我们将继续开拓 TVM 城市地图,诚挚邀请各位企业及社区伙伴们以各种形式参与共创,无论是推荐讲师还是提供场地、茶歇,我们都非常欢迎的。让我们携手创造国内最活跃的 AI 编译器社区!最后分享一张现场的大合影❤️

本场活动圆桌环节的完整文字实录,将于下周发布在公众号「HyperAI 超神经」,届时大家可以查看「大模型时代机器学习系统的创新和挑战」圆桌论坛上 5 位嘉宾的精彩发言。

大家也可以备注「TVM 年终聚会」,扫码加入活动群,获取最新的活动资讯哦~

03 主办方及合作伙伴

作为本次活动的主办方,MLC.AI 社区成立于 2022 年 6 月,并由 Apache TVM 主要发明者、机器学习领域著名的青年学者陈天奇,带领团队上线了 MLC 线上课程,系统介绍了机器学习编译的关键元素以及核心概念。

2022 年 11 月,在 MLC.AI 社区志愿者的共同努力下,首个完整的 TVM 中文文档上线,并成功托管至 HyperAI 超神经官网,进一步为对机器学习编译感兴趣的国内开发者,提供了接触并学习一门新技术的基础设置——文档。
MLC 线上课程:https://mlc.ai/TVM 中文文档:https://tvm.hyper.ai/

HyperAI 超神经国内领先的人工智能及高性能计算社区,致力于为广大国内开发者提供数据科学领域的优质公共资源,截至目前已为 1200+ 公开数据集提供国内下载节点,支持 300+ 人工智能及高性能计算相关的词条查询,现已收录数百个行业词条及案例,上线含大模型在内的数千个公共数据集和教程, 并托管了完整的 TVM 中文文档。
访问官网:https://hyper.ai/

OpenBayes 贝式计算是国内领先的高性能计算服务提供商,通过为新一代异构芯片嫁接经典软件生态及机器学习模型,进而为工业企业及高校科研提供更加快速、易用的数据科学计算产品,其产品已被数十家大型工业场景或头部科研院所所采用。
访问官网:https://openbayes.com/

厘米空间(厦门)是招商局集团旗下的专业创新园区管理公司,在厦门运营「厘米空间 CM Space」专业孵化器。扎根于东南沿海,依托招商局集团的交通、城市与园区综合开发和金融三大主业优势,重点为人工智能领域创业企业提供发展初期最为急需的应用场景、模式验证、种子期客户等资源支持,协助人工智能公司高效孵化。

海云基地(上海市云计算创新基地、上海市大数据创新基地)是国内起步较早的国家级专业孵化器,推动云计算产业从 0 到 1 起步发展。以基金+基地+平台的模式,以数字经济产业为核心,聚焦云计算、云原生、大数据与人工智能、数字医疗等细分领域,集聚和孵化了近千家海内外优秀企业。通过连接技术、用户、资本、服务四个生态,持续举办「场景创新实验室] 和「数字经济上市预备营」,构建数字经济产业加速器

归心谷——全球企业跨境一站式服务平台,致力于全方位打造集创业孵化基地、归心谷人才、归心谷企业服务、归心谷文化传播等为核心内容的市场化企业服务平台。联动北美、欧洲、亚洲等海外智库与市场资源,提供产业园区和孵化基地运营、创业培训、企业咨询服务、投融资、海外人才归国发展、全球创新创业活动等服务,同时帮助中国创业企业出海。归心谷以发现人才,培养人才,成就人才为目标,帮助优秀青年人才实现梦想,形成海归创业和人才培养的归心之地。