活动回顾 | 汇聚行业技术大咖,共享思维碰撞时刻,2023 Meet TVM · 北京站圆满落幕

1 年前

资讯

Yinrong Huang

特色图像

内容一览:「2023 Meet TVM·北京站」于 6 月 17 日在中关村车库咖啡顺利举办,现场吸引了来自企业和高校的 150 余名参与者,大家进行了充分热烈的讨论。

关键词:机器学习编译    2023 Meet TVM

本文首发自 HyperAI 超神经微信公众平台~

6 月 17 日,由 MLC.AI 及 HyperAI 超神经主办、 OpenBayes 贝式计算协办的 2023 Meet TVM 第二站线下聚会圆满落幕。

我们很荣幸邀请到了来自上海交通大学、 ARM China 、地平线以及蔚来汽车的 7 位技术专家,结合 AI 编译器在自身业务场景中的应用案例,为现场的朋友们带来了精彩的分享。

除北京本地的朋友外,还有多位来自天津、南京、杭州、上海等地的朋友加入,大家带着自身业务的疑问和挑战,在聆听技术分享之余,与同行进行了积极的交流和研讨。

因为参会人数超出场地限制不少与会者只能站着听完分享

获取演讲 PPT 及现场视频

以下是活动内容简介以及现场的视频回顾。

关注微信公众号「HyperAI 超神经」,后台回复关键字 TVM 北京,获取嘉宾完整 PPT 。

分享主题:利用 MLC-LLM 把语言模型部署到任意设备

内容简介:生成人工智能和大型语言模型 (LLM) 领域取得了重大进展,它们具有卓越的能力和从根本上改变许多领域的潜力。目前,这些模型中的大多数都需要强大的算力和内存要求,无法部署在个人 PC 、手机以及更小的端侧设备。 MLC-LLM 通过编译技术,优化了运行速度和内存需求,使得端侧部署 LLMs 成为可能,为语言模型后续的发展提供了新的基础设施。

现场视频:

https://www.bilibili.com/video/BV1rm4y1Y7Si/?spm_id_from=333.999.0.0

分享主题:TVM at ARM China

内容简介:随着 AI 应用的蓬勃发展,各种 NPU 芯片被应用在边缘端设备上加速 AI 应用,如何快速适配各机器学习框架及操作系统成为了难题。通过自身工具链与 TVM 的整合,ARM China 实现了图拆分, 自动异构执行等多个实用功能,帮助客户快速部署 AI 应用到 ARM China Zhouyi NPU 芯片上。

现场视频:

https://www.bilibili.com/video/BV1GW4y1X7tL/?spm_id_from=333.337.search-card.all.click

分享主题:AI 异构编程及编译实践

内容简介:AI 芯片在朝着紧耦合异构的方向不断演进,芯片的可编程性和性能优化是业界一直在尝试解决的关键问题。本次分享主要针对 AI 编译优化、可编程性等方面介绍地平线的一些实践,并针对一些关键问题进行深入讨论。

现场视频:

https://www.bilibili.com/video/BV1js4y117NT/?spm_id_from=333.337.search-card.all.click

分享主题:TVM at NIO 

内容简介:自动驾驶领域是一个挑战与机遇并存的领域,随着产品的迭代和用户对驾驶体验越来越高的要求,常见的 AI 引擎无法高效安全的支撑起复杂的产品生产线。我们基于 TVM 开发了 NIO 自研的 AI 编译器,解决了自动驾驶领域中一些常见的问题,并形成了系统化的解决方案和技术架构。

来自蔚来汽车的孟通、陈曦(知乎 aaronxic) 、王璐璐 3 位工程师,对其中涉及到的技术和架构进行细节上的说明。

现场视频:

https://www.bilibili.com/video/BV1fV4y117g7/?spm_id_from=333.337.search-card.all.click

分享主题:动态神经网络编译优化

内容简介:  动态神经网络与静态神经网络相比在准确性、计算效率和适应性方面显示出重要的优势。然而,现有的深度学习框架和编译器主要集中于优化具有确定执行的静态网络,错过了动态网络中的优化机会。优化动态网络的关键是追踪其中的数据流动。此次分享详细介绍了我们在动态神经网络编译方面的工作。

现场视频:

https://www.bilibili.com/video/BV1Mz4y1v7se/?spm_id_from=333.337.search-card.all.click

加入 TVM 中文社区,解锁更多城市

继 3 月上海站及 6 月北京站后,我们很开心能在不同的城市汇聚起关注 AI 编译器的工程师,为大家提供一个同行交流、互通有无的平台,本年度的第 3 场线下 Meetup,我们计划于 9 月在深圳举办,届时欢迎各位企业及社区伙伴参与共创,不断壮大 TVM 中文社区的影响力!

此外,我们也在积极招募 TVM 中文社区 contributor,如果你想要成为我们的一员,不要犹豫请随时添加微信 antonia0912,期待你的热情加入!

目前我们在招募:

* TVM 中文文档翻译志愿者,确保中文文档与英文文档保持同步,为更多希望学习和了解 TVM 的工程师,提供基础设施(访问官网:tvm.hyper.ai)!

* 活动志愿者,承担各地的活动组织、策划及执行工作,在全国多个互联网中心建立我们的根据地。

* 答疑志愿者,熟悉 TVM 并愿意为社群中遇到问题的朋友贡献 insights 和 idea,帮大家解决技术问题。

2023 更多城市持续解锁中,加入我们共同创造国内最活跃的 AI 编译器社区!

最后来一张现场大合影 ❤️

主办方及合作伙伴简介

作为本次活动的主办方,MLC.AI 社区 (https://mlc.ai/)  成立于 2022 年 6 月,并由 Apache TVM 主要发明者、机器学习领域著名的青年学者陈天奇,带领团队上线了 MLC 线上课程,系统介绍了机器学习编译的关键元素以及核心概念。

2022 年 11 月,在 MLC.AI 社区志愿者的共同努力下,首个完整的 TVM 中文文档上线,并成功托管至 HyperAI 超神经官网,进一步为对机器学习编译感兴趣的国内开发者,提供了接触并学习一门新技术的基础设施——文档。

2023 年,社区将在全国多所城市上线「2023 Meet TVM」系列活动,欢迎企业及社区伙伴参与共创。

MLC 线上课程:https://mlc.ai/

TVM 中文文档:https://tvm.hyper.ai/

HyperAI 超神经国内领先的人工智能及高性能计算社区,致力于为广大国内开发者提供数据科学领域的优质公共资源,截至目前已为 1200+ 公开数据集提供国内下载节点,支持 300+ 人工智能及高性能计算相关的词条查询,托管了完整的 TVM 中文文档,并即将上线多个基础及流行教程。

访问官网:https://orion.hyper.ai/

OpenBayes 贝式计算是国内领先的高性能计算服务提供商,通过为新一代异构芯片嫁接经典软件生态及机器学习模型,进而为工业企业及高校科研提供更加快速、易用的数据科学计算产品,其产品已被数十家大型工业场景或头部科研院所所采用。

访问官网:https://openbayes.com/

车库咖啡是一个汇聚创业者的平台,以咖啡厅为依托,为初创企业提供一站式投融资综合解决方案,帮助项目方迅速融到资金,推动快速发展,同时提供创业辅导、资源对接、宣传报道等优质增值服务, 并帮助投资人快速发现好项目,为其领投、跟投、资源输出、经验输出等提供依据,推动多层次的投资人群体协作发展。

本文首发自 HyperAI 超神经微信公众平台~