이벤트 리뷰 | 컴퓨팅, 네트워크, 소프트웨어, 알고리즘, 생태학의 조화로운 발전, 2024 Meet AI Compiler가 성공적으로 마무리되었습니다!

12월 28일, 상하이는 초겨울에 접어들었지만, 추운 날씨도 모두의 열정을 꺾을 수는 없었습니다. 행사장은 사람들로 가득 찼고 소통의 분위기가 강했습니다. 산업 과제에서 기술 혁신, 응용 시나리오에서 구현 결과까지, 강사와 청중은 AI 컴파일러를 중심으로 심오한 "화산 검 경연 대회"를 펼쳤습니다.
WeChat 공개 계정 "HyperAI Super Neural Network"을 팔로우하고 백그라운드에서 키워드 "1228 AI Compiler"에 답글을 달면 게스트의 전체 PPT를 받을 수 있습니다.

이 미팅은 두 개의 세션으로 나뉘었습니다. 기술 공유 세션에서는 Horizon Robotics, Zhiyuan, ByteDance, Lingchuan Technology의 4명의 수석 컴파일러 전문가가 각 팀의 최신 연구 결과를 시연했습니다. 또한, 그들은 풍부한 실제 적용 사례를 결합하여 실제 문제를 해결하는 데 있어서 그 결과가 미치는 영향과 적용 과정을 이해하기 쉬운 방식으로 설명했습니다.
컴파일러 아키텍처의 혁신적인 설계부터 특정 시나리오에서의 성능 최적화 전략, 다른 기술과의 통합 애플리케이션에 이르기까지 강사들은 컴파일러 분야의 많은 핵심 측면을 다루어 참가자들에게 심도 있는 업계 관찰과 귀중한 구현 경험을 제공했습니다.

원탁회의에는 Feng Siyuan 박사가 참석했습니다. 상하이 교통대학 출신이자 Apache TVM의 PMC인 그가 사회를 맡았습니다. 그와 4명의 강사는 "컴퓨팅-네트워크-소프트웨어-알고리즘-생태학의 협력적 발전"이라는 핵심 주제에 초점을 맞추고, 전방위적이고 다차원적인 의견 교환을 시작했습니다. 청중 또한 상호작용에 적극적으로 참여하여, 자신의 통찰력을 표현하고 강사들과 아이디어를 교환했습니다.

이벤트 콘텐츠 리뷰

다음은 공유 콘텐츠에 대한 간략한 소개와 이벤트에 대한 비디오 리뷰입니다.

주제 공유:변압기 모델 컴파일 및 배포 최적화 연습

내용물:최근 몇 년 동안, Transformer 모델은 LLM 분야에서 괄목할 만한 성과를 거두었을 뿐만 아니라, 컴퓨터 비전 분야에서도 널리 활용되고 있습니다. 자율 주행 시나리오에서 Transformer 모델의 컴파일 및 배포 최적화는 복잡한 프로세스입니다. 엔드투엔드 모델과 VLM은 엔드 측의 컴파일 최적화와 배포에 큰 과제를 안겨줍니다. 이 공유에서는 주로 이와 관련된 Horizon의 몇 가지 관행과 경험을 소개합니다.

이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.

1. Visual Transformer 모델의 컴파일, 최적화 및 배포의 과제

2. 트랜스포머 모델 컴파일 최적화에 대한 Horizon의 탐색 및 실습

비디오 공유:

https://www.bilibili.com/video/BV1wN6pYgEyi/?spm_id_from=333.999.0.0

주제 공유:FlagGems: R&D 진행 상황 및 생태학적 응용 탐색

내용물:버전 2.0이 출시된 이후, Zhiyuan 팀, 파트너 제조업체 및 Triton China 커뮤니티의 긴밀한 협력을 통해 FlagGems는 운영자 지원 수, 컴퓨팅 성능, 코드 생성 및 런타임 메커니즘 측면에서 상당한 R&D 혁신을 이루었습니다. 동시에 FlagGems는 필드의 상류와 하류를 연결하고, 대규모 모델 학습 및 추론 적응, 다중 백엔드 칩 통합 등의 측면에서 혁신적인 탐색을 수행하여 다양한 생태계에서 연산자 라이브러리의 적용 시나리오를 더욱 확장했습니다.

이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.

1. FlagGems의 최신 연구 개발 성과 및 기술 발전

2. 대규모 모델에 맞게 운영자 라이브러리를 조정하는 혁신적인 관행 및 경험

3. 멀티 백엔드 칩 통합의 기술적 솔루션 및 적용 효과

4. 트리톤 차이나 커뮤니티 및 다각화된 생태계 구축 진행 상황

비디오 공유:

https://www.bilibili.com/video/BV1Le6JYXEuR/?spm_id_from=333.999.0.0

주제 공유:계산-메모리 접근-통신 최적화 관점에서 본 AI 컴파일러 설계

내용물:AI 칩의 컴파일 최적화는 컴퓨팅, 메모리 액세스, 통신이라는 세 가지 관점에서 최적화 과제에 직면합니다. 이 보고서에서는 AI 컴파일러 설계 및 최적화 경험의 세 가지 측면을 공유합니다. 컴퓨팅 관점에서 우리는 맞춤형 가속 단위에 대한 최적화를 공유합니다. 메모리 액세스 관점에서 우리는 AI 칩에 대한 메모리 액세스 모델링과 최적화를 공유합니다. 커뮤니케이션 관점에서 우리는 컴퓨팅과 커뮤니케이션의 융합에 대한 경험과 진전을 공유합니다.

이 공유 세션을 시청하면 다음 내용을 배울 수 있습니다.

1. AI 컴파일러 최적화에 대한 글로벌 관점

2. AI 칩의 컴퓨팅 파워를 최대한 활용하는 경험과 기술을 습득합니다.

3. 분산형 AI 컴파일러의 미래 개발 방향 이해

비디오 공유:

https://www.bilibili.com/video/BV1vX6EYDEkm/?spm_id_from=333.999.0.0

2025년 AI 컴파일러를 만나보세요 · 계속 지켜봐주세요

2023~2024년에는 베이징, 상하이, 선전에서 오프라인 미팅을 6회 성공적으로 개최하여 수천 명의 고위 실무자와 애호가를 한자리에 모으고 점차 풍부한 커뮤니티 생태계를 구축했습니다. 2025년에도 AI 컴파일러 시티맵을 지속적으로 개발하고, 모든 기업과 커뮤니티 파트너가 강사 추천, 장소 및 커피 브레이크 제공 등 다양한 형태로 공동 창작에 참여해 주시기를 진심으로 부탁드립니다~

중국에서 가장 활성화된 AI 컴파일러 커뮤니티를 만들기 위해 함께 노력합시다! 마지막으로 현장 단체사진 공유해요❤️

주최자 및 파트너

HyperAI는 중국을 선도하는 인공지능 및 고성능 컴퓨팅 커뮤니티입니다.이 플랫폼은 가속화된 데이터 세트 다운로드, 온라인 튜토리얼 데모, 심층적인 논문 해석, 최고의 컨퍼런스 일정 통합 등 다양한 인프라를 제공하여 중국의 데이터 과학 및 인공지능 산업에 종사하는 개발자와 애호가들이 학습하고 이해하고 실습할 수 있도록 돕고, 커뮤니티와 함께 인공지능의 미래를 구축하는 것을 목표로 합니다. 현재 SuperNeural 공식 웹사이트는 수천 개의 고전적이고 고품질의 공개 데이터 세트와 튜토리얼을 출시했으며, 중국에서 가장 활발한 AI 컴파일러 커뮤니티를 운영하고 있습니다.

공식 웹사이트를 방문하세요:https://hyper.ai/

OpenBayes Bayesian Computing은 중국을 대표하는 고성능 컴퓨팅 서비스 제공업체입니다.기존 소프트웨어 생태계와 머신 러닝 모델을 차세대 이기종 칩에 접목하여 산업체와 대학의 과학 연구에 더 빠르고 사용하기 쉬운 데이터 과학 컴퓨팅 제품을 제공합니다. 해당 제품은 수십 개의 대규모 산업 시나리오나 주요 과학 연구 기관에서 채택되었습니다.

공식 웹사이트를 방문하세요:https://openbayes.com/

MLC.AI 커뮤니티는 2022년 6월에 설립되었습니다. Apache TVM의 주요 발명가이자 머신 러닝 분야의 저명한 젊은 학자인 천톈치가 팀을 이끌고 MLC 온라인 과정을 시작했으며, 이를 통해 머신 러닝 컴파일의 핵심 요소와 핵심 개념을 체계적으로 소개했습니다.

2022년 11월, MLC.AI 커뮤니티 자원봉사자들의 공동 노력으로 최초의 완전한 TVM 중국어 문서가 출시되어 HyperAI 공식 웹사이트에 성공적으로 호스팅되었습니다. 이를 통해 머신 러닝 컴파일에 관심이 있는 국내 개발자에게 새로운 기술인 문서에 접근하고 학습할 수 있는 기본 설정을 제공하게 되었습니다.

MLC 온라인 과정:https://mlc.ai/

TVM 중국어 문서:https://tvm.hyper.ai/

상하이 우각창 혁신창업학원은 양푸구 정부, 유명 대학, 업계 선도 기업, 창업 서비스 기관이 공동으로 설립한 비영리 교육 및 서비스 기관입니다. "혁신과 기업가 정신을 더욱 성공적으로 만들기 위한 긴밀한 연결을 만든다"는 사명으로, 우리는 기업가와 지원자를 연결하고, 혁신과 기업가 정신을 위한 자원 배분의 효율성을 개선하며, 창조를 촉진합니다.

2022년 11월, 우각창 창업 아카데미는 공식적으로 아카데미의 공공 공간을 개방하여 창업과 혁신을 추구하는 사람들에게 800제곱미터 규모의 공간을 제공할 예정입니다. 또한 CUHK 상하이 센터, 슈이온 그룹 등의 파트너와 함께 창업 및 혁신 자선 브랜드 "아카데미 커피"를 공동 출시하고, 창업 및 혁신 자선 서비스에 공감대를 형성하는 KOL, 기업, 사회 단체를 "자선 파트너"로 초대하여 창업자들이 모이는 다양한 방식을 함께 고안할 예정입니다. 지금까지 "아카데미 커피"는 140개 이상의 다양한 형태의 기업가 정신과 혁신을 주제로 한 활동을 개최하여 3,000명 이상의 참가자를 모았습니다.

이벤트 지원

PPT 받기:위챗 공개 계정 "HyperAI Super Neural Network"을 팔로우하고, 백그라운드에서 키워드 "1228 AI Compiler"에 답글을 달면 게스트의 PPT 전문을 받아볼 수 있습니다.

QR 코드를 스캔하고 "AI 컴파일러"라고 표시하여 이벤트 그룹에 참여하세요.