다음 토요일에 상하이에서 만나요! AI 컴파일러 기술 살롱에는 Zhiyuan, ByteDance, Lingchuan Technology 등의 유명 기업이 모여 있습니다.
2023년에 HyperAI는 베이징, 상하이, 선전에서 4차례의 오프라인 Meet TVM 모임을 개최했습니다.1,000명이 넘는 고위 수행자와 애호가가 모여 점차 풍부한 커뮤니티 생태계를 구축했습니다. 2024년에 HyperAI는 AI 컴파일러 분야에 집중하면서 업계 관계자를 위한 개방형 커뮤니케이션 플랫폼을 계속 제공했습니다. 올해 7월에는 제5회 AI 컴파일러 기술 살롱을 개최했습니다. 이제 2024년이 끝나가면서 대형 모델 경쟁은 치열하게 계속되고 있습니다. AI 컴파일러는 어떤 새로운 혁신과 새로운 응용 분야를 선보일 것인가?
12월 28일, HyperAI는 상하이 우자오창에서 제6회 Meet AI Compiler Technology Salon을 개최합니다. 행사는 기술 공유와 원탁 토론의 두 부분으로 나뉩니다.
우선, Horizon Robotics, 베이징 인공지능 아카데미, ByteDance, Lingchuan Technology의 4명의 고위 전문가를 초대하여 그들의 응용 사례와 업계 관찰 결과를 공유하게 되어 영광입니다. 또한 Ph.D. 상하이 교통대학 출신이자 Apache TVM의 PMC인 그는 원탁회의의 사회를 맡고 전문적인 기술적 관점에서 게스트와 아이디어를 교환할 예정입니다.
또한, 모든 분들을 위해 멋진 선물과 티타임을 준비했습니다. 이벤트에 등록하고 "HyperAI Super Neuro" 공개 계정을 팔로우한 후, 백그라운드에 "1228 Shanghai"를 답글로 남겨 럭키 추첨에 참여하세요.상품은 12월 28일 행사장에서 오프라인으로 수령 가능하오니, 참여해주세요~
이벤트 세부 정보
시간 : 12월 28일(토) 13:30~17:45
장소: 상하이 우각창 혁신창업학원 2층 강의실 (양푸구 대학로 322호)
인원 : 200명 (현장 좌석이 한정되어 있으니, 가능한 한 빨리 등록해 주시기 바랍니다.)
등록: 링크를 클릭하여 등록하세요
의제:
손님 및 일정
세션 1: 게스트 연사
주제 공유:변압기 모델 컴파일 및 배포 최적화 연습
내용 소개: 최근 몇 년 동안 Transformer 모델은 LLM 분야에서 주목할 만한 성과를 거두었을 뿐만 아니라, 컴퓨터 비전 분야에서도 널리 사용되고 있습니다.자율 주행 시나리오에서 Transformer 모델의 컴파일 및 배포 최적화는 복잡한 프로세스입니다. 엔드투엔드 모델과 VLM은 엔드 측의 컴파일 최적화와 배포에 큰 과제를 안겨줍니다. 이 공유에서는 주로 이와 관련된 Horizon의 몇 가지 관행과 경험을 소개합니다.
이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.
1. Visual Transformer 모델의 컴파일, 최적화 및 배포의 과제
2. 트랜스포머 모델 컴파일 최적화에 대한 Horizon의 탐색 및 실습
주제 공유:FlagGems: R&D 진행 상황 및 생태학적 응용 탐색
내용물:Zhiyuan 팀, 파트너 제조업체 및 Triton China 커뮤니티의 긴밀한 협력을 통해 버전 2.0이 출시된 이후,FlagGems는 지원되는 연산자 수, 컴퓨팅 성능, 코드 생성, 런타임 메커니즘 측면에서 중요한 R&D 혁신을 이루었습니다.동시에 FlagGems는 필드의 상류와 하류를 연결하고, 대규모 모델 학습 및 추론 적응, 다중 백엔드 칩 통합 등의 측면에서 혁신적인 탐색을 수행하여 다양한 생태계에서 연산자 라이브러리의 적용 시나리오를 더욱 확장했습니다.
이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.
1. FlagGems의 최신 연구 개발 성과 및 기술 발전
2. 대규모 모델에 맞게 운영자 라이브러리를 조정하는 혁신적인 관행 및 경험
3. 멀티 백엔드 칩 통합의 기술적 솔루션 및 적용 효과
4. 트리톤 차이나 커뮤니티 및 다각화된 생태계 구축 진행 상황
주제 공유:계산-메모리 접근-통신 최적화 관점에서 본 AI 컴파일러 설계
내용물:AI 칩의 컴파일 최적화는 컴퓨팅, 메모리 액세스, 통신이라는 세 가지 관점에서 최적화 과제에 직면합니다. 이 보고서에서는 AI 컴파일러 설계 및 최적화 경험의 세 가지 측면을 공유합니다.컴퓨팅 관점에서 우리는 맞춤형 가속 단위에 대한 최적화를 공유합니다. 메모리 액세스 관점에서 우리는 AI 칩에 대한 메모리 액세스 모델링과 최적화를 공유합니다. 커뮤니케이션 관점에서 우리는 컴퓨팅과 커뮤니케이션의 융합에 대한 경험과 진전을 공유합니다.
이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.
1. AI 컴파일러 최적화에 대한 글로벌 관점
2. AI 칩의 컴퓨팅 파워를 최대한 활용하는 경험과 기술을 습득합니다.
3. 분산형 AI 컴파일러의 미래 개발 방향 이해
주제 공유:멀티코어 아키텍처 NPU 기반 대규모 모델 컴파일 최적화 및 추론 가속 실습
콘텐츠 소개: 이 공유는 대규모 모델 컴파일 최적화 및 추론 가속에서 멀티 코어 아키텍처 NPU의 실제적 탐구에 초점을 맞춥니다.본 논문에서는 Transformer와 같은 대형 모델의 컴퓨팅 특성을 분석하여 타일링 전략에 기반한 행렬 최적화, 데이터 병렬성과 모델 병렬성을 위한 스케줄링 메커니즘, 연산자와 파이프라인 설계를 통합한 효율적인 추론 방법을 제안한다. 멀티 코어 아키텍처의 병렬 특성과 결합하여 연산자 분해 및 메모리 관리가 최적화되어 추론 처리량과 리소스 활용도가 크게 향상됩니다.
이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.
1. 클라우드 기반 대용량 모델 추론 칩의 아키텍처
2. Transformer 아키텍처에서 Attention 슈퍼 연산자의 최적화 전략
세션 2 원탁토론
원탁회의 주제:칩, 네트워크, 소프트웨어, 알고리즘 및 생태계의 협력 개발
주최자 및 파트너
HyperAI는 중국을 선도하는 인공지능 및 고성능 컴퓨팅 커뮤니티입니다.이 플랫폼은 가속화된 데이터 세트 다운로드, 온라인 튜토리얼 데모, 심층적인 논문 해석, 최고의 컨퍼런스 일정 통합 등 다양한 인프라를 제공하여 중국의 데이터 과학 및 인공지능 산업에 종사하는 개발자와 애호가들이 학습하고 이해하고 실습할 수 있도록 돕고, 커뮤니티와 함께 인공지능의 미래를 구축하는 것을 목표로 합니다. 현재 SuperNeural 공식 웹사이트는 수천 개의 고전적이고 고품질의 공개 데이터 세트와 튜토리얼을 출시했으며, 중국에서 가장 활발한 AI 컴파일러 커뮤니티를 운영하고 있습니다.
공식 웹사이트를 방문하세요:https://hyper.ai/
OpenBayes Bayesian Computing은 중국을 대표하는 고성능 컴퓨팅 서비스 제공업체입니다.기존 소프트웨어 생태계와 머신 러닝 모델을 차세대 이기종 칩에 접목하여 산업체와 대학의 과학 연구에 더 빠르고 사용하기 쉬운 데이터 과학 컴퓨팅 제품을 제공합니다. 해당 제품은 수십 개의 대규모 산업 시나리오나 주요 과학 연구 기관에서 채택되었습니다.
공식 웹사이트를 방문하세요:https://openbayes.com/
MLC.AI 커뮤니티는 2022년 6월에 설립되었으며, Apache TVM의 주요 발명가이자 머신 러닝 분야의 저명한 젊은 학자인 천톈치가 이끄는 팀은 MLC 온라인 과정을 출시했습니다.머신 러닝 컴파일의 핵심 요소와 핵심 개념을 체계적으로 소개합니다.
2022년 11월, MLC.AI 커뮤니티 자원봉사자들의 공동 노력으로 최초의 완전한 TVM 중국어 문서가 출시되어 HyperAI 공식 웹사이트에 성공적으로 호스팅되었습니다. 이를 통해 머신 러닝 컴파일에 관심이 있는 국내 개발자에게 새로운 기술인 문서에 접근하고 학습할 수 있는 기본 설정을 제공하게 되었습니다.
MLC 온라인 과정:https://mlc.ai/
TVM 중국어 문서:https://tvm.hyper.ai/
상하이 우각창 혁신창업학원은 양푸구 정부, 유명 대학, 업계 선도 기업, 창업 서비스 기관이 공동으로 설립한 비영리 교육 및 서비스 기관입니다."혁신과 기업가 정신을 더욱 성공적으로 만들기 위한 긴밀한 연결을 만든다"는 사명으로, 우리는 기업가와 지원자를 연결하고, 혁신과 기업가 정신을 위한 자원 배분의 효율성을 개선하며, 창조를 촉진합니다.
2022년 11월, 우각창 창업 아카데미는 공식적으로 아카데미의 공공 공간을 개방하고, 창업가들에게 800제곱미터의 공간을 개방할 예정입니다. 또한 CUHK 상하이 센터, 슈이온 그룹 등의 파트너와 함께 창업 자선 브랜드 "아카데미 커피"를 공동 출시하고, 창업 자선 서비스에 공감대를 형성하는 KOL, 기업, 사회 단체를 "자선 파트너"로 초대하여 창업자들이 모일 수 있는 다양한 방식을 공동으로 고안할 예정입니다.지금까지 "칼리지 커피"는 다양한 형태로 140회 이상의 이중 혁신과 창업을 주제로 한 활동을 개최하여 3,000명 이상의 참가자를 모았습니다.
이벤트 지원
