개요: 9월 16일, MLC.AI 커뮤니티와 HyperAI가 주최하고 Openbayes 및 Tencent AI Lab이 공동 주관한 2023 Meet TVM · Shenzhen 행사가 텐센트 빌딩에서 성공적으로 개최되었습니다. 상하이 자오퉁 대학교, 텐센트, MachineTime, Suiyuan Technology의 선임 연사 5명이 각자의 비즈니스 사례를 바탕으로 TVM 및 MLIR에 대한 모범 사례를 공유했습니다. HyperAI는 행사 전체를 빌리빌리에서 생중계했으며, 다시보기 영상은 아래에서 확인할 수 있습니다.

생방송 시간: 2023년 9월 16일

키워드: TVM, 기술 박람회, 온라인 라이브 스트리밍

9월 16일MLC.AI 커뮤니티와 HyperAI가 주최하고 Openbayes 및 Tencent AI Lab이 공동 주관한 2023년 TVM 선전 미팅 행사가 공식적으로 개최되었습니다.일주일 내내 폭우가 쏟아졌음에도 불구하고 커뮤니티 구성원들의 열정은 조금도 식지 않았습니다. 대학, 주요 기업, 반도체 제조업체, 연구 기관 등에서 100명이 넘는 참가자들이 AI 컴파일러 오프라인 모임에 참석하기 위해 전국 각지에서 모였습니다. 한편, 현장에 참석하지 못한 많은 사람들은 HyperAI의 빌리빌리 채널에서 생중계된 온라인 라이브 스트리밍을 통해 적극적으로 기술 토론에 참여했습니다.

이번 행사에는 상하이 자오퉁 대학교, 텐센트, 머신타임, 수이위안 테크놀로지의 선임 강사 5분을 초청하여 각자의 비즈니스 적용 사례를 바탕으로 TVM 및 MLIR 관련 우수 사례를 공유했습니다.

이벤트 리뷰

다음은 이벤트에 대한 간략한 소개와 이벤트에 대한 비디오 리뷰입니다.

위챗 공식 계정 "HyperAI"를 팔로우하고 "TVM Shenzhen"이라는 키워드로 답글을 남기면 발표자의 전체 PPT 자료를 받을 수 있습니다.

주제 공유:TVM 기반 CPU 측 동적 형상 최적화

내용물:기존의 딥러닝 컴파일러(TVM 포함)는 동적 형태를 지원하지 않아 언어 모델(동적 시퀀스 길이)이나 객체 탐지 모델(동적 너비/높이)을 처리하는 데 적합하지 않습니다. 이러한 문제를 해결하기 위해 TVM 기반의 CPU 기반 동적 형태 연산자 최적화 기법을 설계 및 구현했습니다. 이 기법은 기존의 정적 형태 최적화 기법보다 우수한 성능을 보이며 탐색 시간이 거의 필요하지 않습니다.

라이브 재생:bilibili.com/video/BV18u4y1z7NM/?spm_id_from=333.1387.collection.video_card.click

주제 공유:AI 프로세서 자동 설계: 컴파일러가 핵심

내용물:대규모 언어 모델로 대표되는 AIGC가 개발되고 대중화됨에 따라 컴퓨팅 성능에 대한 수요도 기하급수적으로 증가하고 있습니다. 따라서 AI 프로세서 칩의 설계와 이에 따른 프로그래밍은 더욱 복잡해졌습니다.

보다 간편하고 효율적인 솔루션을 만들기 위해 자동화된 컴파일러-컴퓨팅 아키텍처가 공동으로 설계되었습니다.

라이브 스트리밍 다시보기: bilibili.com/video/BV1hj411k7v4/?spm_id_from=333.1387.collection.video_card.click

주제 공유:MLIR 및 AI 그래프 컴파일 연습

내용물:AI 칩과 AI 프레임워크의 급속한 발전과 함께 XLA, TVM과 같은 AI 컴파일러도 등장했습니다. 범용적이고 재사용 가능한 컴파일러 프레임워크인 MLIR은 하드웨어 제조업체가 DS AI 컴파일러를 신속하게 구축할 수 있도록 지원하기 때문에 AI 컴파일 시스템에서 널리 사용되고 있습니다.

이 공유에서는 주로 MLIR의 기본 지식 요소, MLIR의 Codegen 프로세스, 그리고 AI 컴파일러를 구축하는 실제 단계를 소개합니다. 또한, AI 컴파일러의 핵심 문제를 해결하기 위한 MLIR의 아이디어에 대해서도 논의해 보겠습니다.

라이브 재생:https://www.bilibili.com/video/BV1wj411C7kJ/?spm_id_from=333.1387.collection.video_card.click&vd&vd

주제 공유:MLIR 기반 AI 컴파일러의 설계 및 구현

내용물:AI와 머신러닝 분야에는 다양한 소프트웨어 프레임워크(예: TensorFlow, PyTorch 등)가 있으며, 하드웨어 장치(CPU, GPU, TPU 등)도 점점 더 다양해지고 있습니다. 두 가지를 연결하는 다리 역할을 하는 AI 컴파일러는 많은 과제에 직면합니다.

컴파일러 인프라로서 MLIR은 도메인별 컴파일러를 구축하기 위한 일련의 재사용 가능하고 쉽게 확장 가능한 기본 구성 요소를 제공합니다. Tencent는 사용자의 AI 모델에 대한 컴파일 최적화를 제공하기 위해 MLIR 기반의 종단간 AI 컴파일러를 구축하여 다양한 AI 칩에 대한 모델 배포를 간소화하고 최대 성능을 달성했습니다.

라이브 재생:bilibili.com/video/BV1vk4y1F7Ku/?spm_id_from=333.1387.collection.video_card.click

주제 공유:빅 모델 시대의 머신 러닝 시스템의 기회와 과제

내용물:생성형 인공지능과 대규모 언어 모델(LLM) 분야에서 상당한 진전이 이루어졌으며, 이는 놀라운 역량과 여러 분야를 근본적으로 변화시킬 잠재력을 보여주고 있습니다. 동시에 이는 머신러닝 시스템에 새로운 기회와 과제를 제시합니다. 한편으로는 막대한 연산 요구량으로 인해 시스템 최적화의 필요성이 증가하고 있으며, 다른 한편으로는 단일 모델 아키텍처와 고성능 하드웨어에 대한 의존도가 높아짐에 따라 기존의 개방형 머신러닝 생태계가 수렴되기 시작하고 있습니다.

라이브 재생:bilibili.com/video/BV1A34y1N76w/?spm_id_from=333.1387.collection.video_card.click

2023 TVM 연말 모임

올해 1분기부터 3분기까지 저희는 세 차례의 오프라인 모임을 성공적으로 개최하여 AI 컴파일러 분야에 관심 있는 많은 분들이 여러 도시에 모여 함께 배우고 토론하는 시간을 가졌습니다.

4분기가 코앞으로 다가왔습니다. 저희는 올해 Meet TVM 시리즈 행사를 완벽하게 마무리하기 위해 2023 Meet TVM 연말 모임을 개최할 예정입니다. 모든 기업 및 지역사회 파트너 여러분의 참여와 협력을 진심으로 환영합니다. 연사 추천부터 장소 및 다과 후원까지 다양한 방식으로 함께 만들어 나가시길 바랍니다.

중국에서 가장 활발한 AI 컴파일러 커뮤니티를 함께 만들어 갑시다! 마지막으로, 행사 단체 사진을 공유합니다 ❤️

PPT 받기:위챗 공식 계정 "HyperAI"를 팔로우하고 "TVM Shenzhen"이라는 키워드로 답글을 남기면 발표자의 전체 PPT 자료를 받을 수 있습니다.

주최자 및 파트너

이 행사의 주최자인 MLC.AI 커뮤니티는 2022년 6월에 설립되었습니다. Apache TVM의 주요 발명가이자 머신 러닝 분야의 저명한 젊은 학자인 천톈치가 이끄는 팀은 머신 러닝 컴파일의 핵심 요소와 핵심 개념을 체계적으로 소개하는 MLC 온라인 과정을 시작했습니다.

2022년 11월, MLC.AI 커뮤니티 자원봉사자들의 협력 덕분에 TVM에 대한 최초의 완벽한 중국어 문서가 HyperAI 웹사이트에 성공적으로 게시되었습니다.또한 머신 러닝 컴파일에 관심이 있는 국내 개발자들에게 새로운 기술에 접근하고 학습할 수 있는 인프라(문서)를 제공합니다.

2023년 4분기에는 항저우에서 "2023 Meet TVM" 시리즈 행사가 개최되며, 기업 및 지역 파트너의 공동 창작 참여를 환영합니다.

MLC 온라인 과정:https://mlc.ai/

TVM 중국어 문서:https://tvm.hyper.ai/

중국 최고의 인공지능 및 고성능 컴퓨팅 커뮤니티우리는 국내 개발자들에게 데이터 과학 분야의 고품질 공공 리소스를 제공하기 위해 노력하고 있습니다.지금까지 1,200개 이상의 공공 데이터 세트에 대한 국내 다운로드 노드를 제공하고, 300개 이상의 인공지능 및 고성능 컴퓨팅 관련 용어 쿼리를 지원하고, 완전한 TVM 중국어 문서를 호스팅했으며, 곧 여러 가지 기본 및 인기 튜토리얼을 출시할 예정입니다.

공식 웹사이트를 방문하세요:https://hyper.ai/

OpenBayes Bayesian Computing은 중국을 대표하는 고성능 컴퓨팅 서비스 제공업체입니다.기존 소프트웨어 생태계와 머신 러닝 모델을 차세대 이기종 칩에 접목하여 산업체와 대학의 과학 연구에 더 빠르고 사용하기 쉬운 데이터 과학 컴퓨팅 제품을 제공합니다. 해당 제품은 수십 개의 대규모 산업 시나리오나 주요 과학 연구 기관에서 채택되었습니다.

공식 웹사이트를 방문하세요:https://openbayes.com/

텐센트 AI 랩은 텐센트의 기업용 AI 연구소입니다.2016년 4월 선전에서 설립된 AI Lab은 현재 100명이 넘는 최고 수준의 연구원과 300명이 넘는 애플리케이션 엔지니어를 보유하고 있습니다. 텐센트가 오랜 기간 축적해 온 풍부한 애플리케이션 시나리오, 빅데이터, 컴퓨팅 파워, 그리고 최고의 인재를 바탕으로, AI Lab은 미래지향적이고 협력에 열려 있으며, "AI를 모든 곳에"라는 비전을 향해 AI의 인지, 의사결정, 창의성을 지속적으로 향상시키는 데 전념하고 있습니다.

텐센트 AI 랩은 연구와 응용의 발전을 모두 강조합니다.기초 연구는 기계 학습, 컴퓨터 비전, 음성 기술, 자연어 처리의 4가지 주요 방향에 초점을 맞춥니다. 기술 응용 프로그램은 게임, 디지털 인간, 콘텐츠, 사회적 상호 작용이라는 4가지 주요 영역에 초점을 맞추고 있으며, 처음에는 산업, 농업, 의료, 의학, 생명 과학 및 기타 분야에서 AI의 연구와 응용을 탐구합니다.