상하이 오프라인 이벤트 | LLM 시대의 AI 컴파일러 실습 및 혁신
올해 3월에는 2023년 Meet TVM 시리즈의 첫 번째 오프라인 이벤트는 상하이에서 시작하여 여러 도시로 이어졌습니다.우리는 AI 컴파일러에 관심이 있는 전 세계 엔지니어를 위한 학습 및 커뮤니케이션 플랫폼을 제공하고자 노력하고 있습니다.
2023년 12월 16일 TVM을 만나다 · 연말 파티가 상하이로 돌아옵니다.이번에 우리는 4명의 AI 컴파일러 전문가를 초대하여 멋진 공유를 제공했습니다.원탁토론 세션도 추가되었습니다.Apache TVM PMC 및 상하이 교통대학교 박사 펑 시위안은 사회를 맡아, 보다 다양한 관점에서 빅 모델 시대의 머신 러닝 시스템의 혁신과 과제에 대해 논의할 예정입니다.
크리스마스가 다가오면서, 우리는 여러분의 옷차림에 크리스마스 요소를 더하기를 바랍니다. 또한, 현장에 있는 모든 분들을 위해 훌륭한 티타임과 작은 선물을 준비하겠습니다.여러분 모두와 함께 크리스마스로 가득한 AI 컴파일러 파티를 기대하고 있어요!
⏰ 시간:12월 16일(토) 13:30-17:40
장소:상하이 우각창 혁신창업학원 2층 강의실 (양푸구 대학로 322호)
인원수 :200명 (현장 좌석이 한정되어 있으니, 가능한 한 빨리 등록해 주시기 바랍니다)
가입하기:아래 QR 코드를 스캔하여 등록하세요
QR 코드를 스캔하고 "TVM 연말 파티"라고 적어 이벤트 그룹에 참여하세요.
일정:
주제 공유: TVM Unity에 대해 자세히 알아보세요
내용물:1년 이상의 반복과 업그레이드를 거쳐 TVM Unity는 가까운 미래에 Apache TVM의 주요 브랜치에 병합될 예정이며, 이후 Apache TVM의 주요 컴파일 프로세스가 될 것입니다.이 공유에서는 TVM Unity의 기본 컴파일 프로세스, 기존 TVM과의 차이점, 기존 워크플로를 Unity로 마이그레이션하는 방법을 소개합니다.
이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.
1. TVM Unity의 구조 설계
2. TVM Unity의 기본 컴파일 프로세스
3. 기존 워크플로를 TVM Unity로 마이그레이션하는 방법
주제 공유:Slim-LM: Agile 개발을 위한 통합 컴파일 프레임워크
내용물:MLC LLM과 TVM Unity가 점차 발전함에 따라, 점점 더 많은 사용자가 TVM을 사용하여 자신의 모델을 배포하려고 합니다. 그러나 TVM을 유연하고 효율적으로 사용하여 모델을 구축하고 컴파일하는 방법에는 많은 과제가 있습니다.
이러한 수요에 따라TVM 커뮤니티는 최근 TVM 모델 구축 및 컴파일 프로세스를 단순화하기 위해 Slim-LM이라는 새로운 프레임워크를 출시했습니다.세 가지 주요 기능이 포함되어 있습니다.
1. PyTorch 스타일 코드 정의 TVM 모델
2. 간단하고 효율적인 컴파일 도구
3. 통합 양자화 알고리즘 프레임워크
이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.
1. Slim-LM의 인프라와 그것이 제공하는 편의성
2. Slim-LM을 사용하여 새로운 모델을 정의/컴파일합니다.
3. 새로운 양자화 알고리즘을 구현하기 위한 Slim-LM의 기본 단계
주제 공유:TVM 기반 컴파일 최적화 연습
내용물:AI 컴파일러의 반복적인 개발로 인해 사용성과 사용 편의성이 크게 향상되었습니다.AI 컴파일러의 대표 중 한 명으로서, TVM의 역할을 어떻게 극대화하고, TVM의 단점을 개선하며, 검색, 방송, 프로모션 등의 비즈니스 시나리오에서 대규모로 구현할 것인가는 중요한 문제입니다.이 공유에서는 주로 위의 관점에서 소개하겠습니다.
이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.
1. 일반적인 비즈니스 시나리오에서의 TVM 기능 범위
2. TVM은 계산 집약적인 연산자의 기능을 향상시킵니다.
3. TVM 운영자 융합 및 장치 할당 최적화
주제 공유:원활한 모델 컴파일 통합을 향해
내용 소개: AI 가속화에서 모델 편집은 점점 더 중요해지고 있습니다.하지만 IT 기업에서 생산 모델에 대한 모델 편집을 도입하는 것은 간단한 문제가 아닙니다. 주요 부담에는 다양한 도메인, 프레임워크 또는 형식의 모델, 기존 라이브러리에서의 전환, 새로운 ASIC 채택 등이 있습니다. 이러한 문제를 해결하기 위해 ByteIR은 모델 컴파일의 생산성을 향상시키기 위해 개발되었습니다. ByteIR은 OpenXLA와 LLVM/MLIR 컴파일러 인프라를 기반으로 구축되었습니다.여기에는 프런트엔드, 컴파일러, 런타임 구성 요소가 포함되어 있으며 각각 다른 문제를 해결합니다. 이 세 가지 구성 요소는 함께 작동하거나 독립적으로 작동하여 다양한 비즈니스 요구 사항을 충족할 수 있습니다.
이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.
1. MLIR 기반 ByteIR 컴파일러 설계
2. MLIR 컴파일 스택 기반 성능 최적화 실습
원탁회의 주제:빅 모델 시대의 머신 러닝 시스템
주최자 및 파트너
이 행사의 주최자인 MLC.AI 커뮤니티는 2022년 6월에 설립되었습니다. Apache TVM의 주요 발명가이자 머신 러닝 분야의 저명한 젊은 학자인 천톈치가 이끄는 팀은 머신 러닝 컴파일의 핵심 요소와 핵심 개념을 체계적으로 소개하는 MLC 온라인 과정을 시작했습니다.
2022년 11월, MLC.AI 커뮤니티 자원봉사자들의 공동 노력으로 최초의 완전한 TVM 중국어 문서가 출시되어 HyperAI 공식 웹사이트에 성공적으로 호스팅되었습니다. 이를 통해 머신 러닝 컴파일에 관심이 있는 국내 개발자에게 새로운 기술인 문서에 접근하고 학습할 수 있는 기본 설정을 제공하게 되었습니다.
MLC 온라인 과정:https://mlc.ai/
TVM 중국어 문서:https://tvm.hyper.ai/
중국 최고의 인공지능 및 고성능 컴퓨팅 커뮤니티우리는 국내 개발자들에게 데이터 과학 분야의 고품질 공공 리소스를 제공하기 위해 노력하고 있습니다.지금까지 1,200개 이상의 공공 데이터 세트에 대한 국내 다운로드 노드를 제공하고, 300개 이상의 인공지능 및 고성능 컴퓨팅 관련 용어 쿼리를 지원하고, 완전한 TVM 중국어 문서를 호스팅했으며, 곧 여러 가지 기본 및 인기 튜토리얼을 출시할 예정입니다.
공식 웹사이트를 방문하세요:https://hyper.ai/
OpenBayes Bayesian Computing은 중국을 대표하는 고성능 컴퓨팅 서비스 제공업체입니다.기존 소프트웨어 생태계와 머신 러닝 모델을 차세대 이기종 칩에 접목하여 산업체와 대학의 과학 연구에 더 빠르고 사용하기 쉬운 데이터 과학 컴퓨팅 제품을 제공합니다. 해당 제품은 수십 개의 대규모 산업 시나리오나 주요 과학 연구 기관에서 채택되었습니다.
공식 웹사이트를 방문하세요:https://openbayes.com/
CM Space(샤먼)는 중국 상인 그룹 산하의 전문적 혁신 공원 관리 회사로, 샤먼에서 "CM Space" 전문 인큐베이터를 운영하고 있습니다.중국상인그룹의 3대 주력사업인 교통, 도시공원 종합개발, 금융의 장점을 살려 동남해안에 뿌리를 두고 있습니다.인공지능 분야 스타트업에 개발 초기 단계에 가장 필요한 리소스 지원(애플리케이션 시나리오, 모델 검증, 시드 단계 고객 등)을 제공하여 인공지능 기업의 효율적인 육성을 지원하는 데 중점을 두고 있습니다.
상하이 펜타 혁신창업연구소는 양푸구 정부, 복단대학, 통지대학, 상하이재경대학, 상하이이공대학 등 유명 대학과 업계 선도 기업 및 투자 기관이 공동으로 설립한 비영리 교육 및 서비스 기관입니다.이 협회는 많은 업계 리더, 전문가, 학자, 유명 투자자/기관, 기업가 지원 조직을 모아 "이중 혁신 생태계" + "학습 커뮤니티"를 구축하고, 기업가를 기업가로 교육하며, 기업가 생태계의 중요한 허브가 되는 것을 목표로 합니다.
2022년 11월, 상하이 우쟈오창 혁신창업학원은 학원의 공공 공간을 정식으로 개방하여 800제곱미터 규모의 공간을 창업과 혁신을 추구하는 사람들에게 개방했으며, CUHK 상하이센터 등의 파트너와 함께 창업과 혁신 공익 브랜드 "College Coffee"를 공동으로 출시했습니다.대중창업과 혁신의 공익적 서비스에 공감대를 가진 KOL, 기업, 사회단체를 아카데미 카페의 '공익파트너'로 초대하여, 기업가들이 모일 수 있는 다양한 방식을 공동으로 기획하고, 이를 풍부한 의미를 지닌 브랜드 프로젝트로 전환하여 창업 공간을 '개방적이고, 포용적이며, 공유되고, 폐쇄적이지 않은 공공 거실'로 만들어 나가겠습니다.
상하이 클라우드 베이스(상하이 클라우드 컴퓨팅 혁신 기지, 상하이 빅데이터 혁신 기지)는 중국에서 일찍 시작된 국가급 전문 인큐베이터로, 클라우드 컴퓨팅 산업의 0에서 1로의 발전을 촉진했습니다. 펀드+기지+플랫폼 모델을 기반으로 디지털 경제 산업을 핵심으로 클라우드 컴퓨팅, 클라우드 네이티브, 빅데이터 및 인공지능, 디지털 헬스케어 등의 하위 분야에 집중하여 국내외 우수 기업 1,000여 개를 모아 인큐베이팅했습니다.기술, 사용자, 자본, 서비스의 4대 생태계를 연결하여, 디지털 경제 산업 가속기를 구축하기 위한 '시나리오 혁신 랩'과 '디지털 경제 IPO 준비 캠프'를 지속적으로 운영하고 있습니다.
활동 라인: QR 코드를 스캔하여 활동 라인으로 이동하여 등록하세요.
QR 코드를 스캔하고 "TVM 연말 파티"라고 적어 이벤트 그룹에 참여하세요.
이 행사의 장소적 공간을 고려하면,참석 가능한 자리는 200석뿐이므로, 좌석을 확보하려면 가능한 한 일찍 등록하시기 바랍니다.
2023년 TVM 만나기 · 연말 파티,12월 16일 13:30-17:40,상하이에서 여러분을 만나 뵙기를 기대합니다!