HyperAI

Revue De L'événement | Le Développement Coordonné De L'informatique, Du Réseau, Des Logiciels, Des Algorithmes Et De L'écologie, 2024 Meet AI Compiler S'est Conclu Avec Succès !

特色图像

Le 28 décembre, Shanghai était entrée dans le début de l'hiver, mais le froid n'avait pas réussi à freiner l'enthousiasme de tous. La salle était pleine de monde et l’atmosphère de communication était forte. Des défis de l'industrie à l'innovation technologique, des scénarios d'application aux résultats de mise en œuvre, les conférenciers et le public ont eu un profond « concours d'épée Huashan » autour du compilateur d'IA.
Suivez le compte public WeChat « HyperAI Super Neural Network » et répondez au mot-clé « 1228 AI Compiler » en arrière-plan pour obtenir le PPT complet de l'invité.

Ce Meetup était divisé en deux sessions. Lors de la session de partage technique, quatre experts seniors en compilateurs d'Horizon Robotics, Zhiyuan, ByteDance et Lingchuan Technology ont présenté les derniers résultats de recherche de leurs équipes respectives. Ils ont également combiné de riches cas d’application pratique pour expliquer de manière facile à comprendre le processus d’application et les effets de ces résultats dans la résolution de problèmes pratiques.
De la conception innovante de l'architecture du compilateur aux stratégies d'optimisation des performances dans des scénarios spécifiques, en passant par les applications intégrées avec d'autres technologies, le partage des conférenciers a couvert de nombreux aspects clés dans le domaine du compilateur, offrant aux participants des observations approfondies de l'industrie et une expérience de mise en œuvre précieuse.

Lors de la table ronde, Feng Siyuan, titulaire d'un doctorat. de l'Université Jiao Tong de Shanghai et PMC d'Apache TVM, a servi de modérateur. Lui et quatre conférenciers se sont concentrés sur le thème central du « développement coordonné de l'informatique, du réseau, du logiciel, de l'algorithme et de l'écologie » et ont lancé un échange de vues complet et multidimensionnel. Le public a également participé activement à l’interaction, exprimé ses points de vue et échangé des idées avec les conférenciers.

Examen du contenu de l'événement

Voici une brève introduction au contenu partagé et une revue vidéo de l’événement.

Partager le sujet:Pratique d'optimisation de la compilation et du déploiement du modèle Transformer

Contenu:Ces dernières années, le modèle Transformer a non seulement obtenu des résultats remarquables dans le domaine du LLM, mais a également été largement utilisé dans le domaine de la vision par ordinateur. Dans les scénarios de conduite autonome, l’optimisation de la compilation et du déploiement du modèle Transformer est un processus complexe. Le modèle de bout en bout et le VLM posent de grands défis à l'optimisation de la compilation et au déploiement côté terminal. Ce partage présente principalement quelques pratiques et expériences d’Horizon à cet égard.

Regardez cette séance de partage et vous apprendrez :

1. Défis liés à la compilation, à l'optimisation et au déploiement des modèles de transformateurs visuels

2. Exploration et pratique d'Horizon dans l'optimisation de la compilation des modèles Transformer

Partager la vidéo :

https://www.bilibili.com/video/BV1wN6pYgEyi/?spm_id_from=333.999.0.0

Partager le sujet:FlagGems : progrès en R&D et exploration des applications écologiques

Contenu:Depuis la sortie de la version 2.0, grâce à l'étroite collaboration de l'équipe Zhiyuan, des fabricants partenaires et de la communauté Triton China, FlagGems a réalisé des avancées significatives en matière de R&D dans le nombre de supports d'opérateurs, de performances de calcul, de génération de code et de mécanismes d'exécution. Dans le même temps, FlagGems relie l'amont et l'aval du domaine et a mené des explorations innovantes dans la formation de grands modèles et l'adaptation du raisonnement, l'intégration de puces multi-backend et d'autres aspects, élargissant encore les scénarios d'application de la bibliothèque d'opérateurs dans l'écosystème diversifié.

Regardez cette séance de partage et vous apprendrez :

1. Les dernières réalisations de FlagGems en matière de recherche et développement et les avancées technologiques

2. Pratiques et expériences innovantes dans l'adaptation des bibliothèques d'opérateurs aux grands modèles

3. Solutions techniques et effets d'application de l'intégration de puces multi-backend

4. Progrès de la construction de la communauté et de l'écosystème diversifié de Triton China

Partager la vidéo :

https://www.bilibili.com/video/BV1Le6JYXEuR/?spm_id_from=333.999.0.0

Partager le sujet:Conception de compilateurs d'IA du point de vue de l'optimisation du calcul, de l'accès à la mémoire et de la communication

Contenu:L'optimisation de la compilation pour les puces d'IA est confrontée à des défis d'optimisation sous trois angles : le calcul, l'accès à la mémoire et la communication. Ce rapport partagera trois aspects de l’expérience de conception et d’optimisation du compilateur d’IA. D'un point de vue informatique, nous partageons des optimisations pour des unités d'accélération personnalisées. Du point de vue de l'accès à la mémoire, nous partageons la modélisation et l'optimisation de l'accès à la mémoire pour les puces d'IA. D'un point de vue communication, nous partageons des expériences et des progrès dans la convergence de l'informatique et de la communication.

Regardez cette séance de partage et vous apprendrez :

1. Une perspective globale sur l'optimisation des compilateurs d'IA

2. Acquérir l’expérience et les compétences nécessaires pour exploiter pleinement la puissance de calcul des puces d’IA

3. Comprendre l’orientation future du développement des compilateurs d’IA distribués

Partager la vidéo :

https://www.bilibili.com/video/BV1vX6EYDEkm/?spm_id_from=333.999.0.0

2025 Meet AI Compiler · Restez à l'écoute

En 2023-2024, nous avons organisé avec succès 6 rencontres hors ligne à Pékin, Shanghai et Shenzhen, réunissant des milliers de praticiens et de passionnés expérimentés, et avons progressivement établi une riche écologie communautaire. En 2025, nous continuerons à développer l'IA Compiler City Map et invitons sincèrement toutes les entreprises et partenaires communautaires à participer à la co-création sous diverses formes, qu'il s'agisse de recommander des conférenciers ou de fournir des lieux et des pauses-café, nous les accueillons chaleureusement~

Travaillons ensemble pour créer la communauté de compilateurs d’IA la plus active en Chine ! Enfin, laissez-moi partager une photo de groupe de la scène❤️

Organisateurs et partenaires

HyperAI est une communauté leader en matière d'intelligence artificielle et de calcul haute performance en Chine.Son objectif est d'aider les développeurs et les passionnés de l'industrie chinoise de la science des données et de l'intelligence artificielle à apprendre, comprendre et pratiquer en fournissant une variété d'infrastructures telles que des téléchargements accélérés d'ensembles de données, des démonstrations de tutoriels en ligne, une interprétation approfondie des articles et une intégration du calendrier des conférences de haut niveau, et de construire l'avenir de l'intelligence artificielle avec la communauté. Actuellement, le site Web officiel de SuperNeural a lancé des milliers d'ensembles de données et de tutoriels publics classiques et de haute qualité, et gère la communauté de compilateurs d'IA la plus active en Chine.

Visitez le site officiel :https://hyper.ai/

OpenBayes Bayesian Computing est un fournisseur leader de services de calcul haute performance en ChineEn greffant des écosystèmes logiciels classiques et des modèles d’apprentissage automatique sur des puces hétérogènes de nouvelle génération, il fournit aux entreprises industrielles et à la recherche scientifique universitaire des produits de calcul de science des données plus rapides et plus faciles à utiliser. Ses produits ont été adoptés par des dizaines de grands scénarios industriels ou d’instituts de recherche scientifique de premier plan.

Visitez le site officiel :https://openbayes.com/

La communauté MLC.AI a été créée en juin 2022. Chen Tianqi, le principal inventeur d'Apache TVM et un jeune chercheur bien connu dans le domaine de l'apprentissage automatique, a dirigé l'équipe pour lancer le cours en ligne MLC, qui a systématiquement présenté les éléments clés et les concepts de base de la compilation de l'apprentissage automatique.

En novembre 2022, grâce aux efforts conjoints des bénévoles de la communauté MLC.AI, la première documentation chinoise complète de TVM a été lancée et hébergée avec succès sur le site Web officiel d'HyperAI, fournissant ainsi aux développeurs nationaux intéressés par la compilation d'apprentissage automatique les paramètres de base pour accéder et apprendre une nouvelle technologie - la documentation.

Cours en ligne MLC :https://mlc.ai/

Documentation chinoise de TVM :https://tvm.hyper.ai/

Le Shanghai Wujiaochang Innovation and Entrepreneurship College est une organisation d'éducation et de services à but non lucratif initiée conjointement par le gouvernement du district de Yangpu, des universités célèbres, des entreprises leaders du secteur et des institutions de services entrepreneuriaux. Avec pour mission de « créer des liens profonds pour rendre l’innovation et l’entrepreneuriat plus réussis », nous connectons les entrepreneurs et les facilitateurs, améliorons l’efficacité de l’allocation des ressources pour l’innovation et l’entrepreneuriat et promouvons la création.

En novembre 2022, l'Académie d'entrepreneuriat de Wujiaochang ouvrira officiellement l'espace public de l'académie, offrant 800 mètres carrés d'espace à la foule de l'entrepreneuriat et de l'innovation. Elle lancera également conjointement la marque caritative d'entrepreneuriat et d'innovation « Academy Coffee » avec des partenaires tels que le CUHK Shanghai Center et le Shui On Group, et invitera les KOL, les entreprises et les organisations sociales qui ont un consensus sur les services caritatifs d'entrepreneuriat et d'innovation à devenir des « partenaires caritatifs » pour concevoir conjointement différentes formes de rassemblement des entrepreneurs. Jusqu'à présent, « Academy Coffee » a organisé plus de 140 activités sur le thème de l'entrepreneuriat et de l'innovation sous différentes formes, réunissant plus de 3 000 participants.

Soutien aux événements

Obtenez le PPT :Suivez le compte public WeChat « HyperAI Super Neural Network », répondez au mot-clé « 1228 AI Compiler » en arrière-plan et obtenez le PPT complet de l'invité.

Scannez le code QR et notez « AI Compiler » pour rejoindre le groupe de l'événement