Aperçu : Le 16 septembre, la rencontre TVM 2023 à Shenzhen, organisée par la communauté MLC.AI et HyperAI, et co-organisée par Openbayes et le laboratoire d’IA de Tencent, s’est tenue avec succès au bâtiment Tencent. Cinq intervenants de haut niveau de l’université Jiao Tong de Shanghai, de Tencent, de MachineTime et de Suiyuan Technology ont partagé leurs bonnes pratiques en matière de TVM et de MLIR, en s’appuyant sur leurs propres applications métier. HyperAI a également diffusé l’intégralité de l’événement en direct sur Bilibili ; le replay est disponible ci-dessous.

Diffusion en direct : 16 septembre 2023

Mots-clés : TVM, salon technique, diffusion en direct en ligne

16 septembreL'événement Meet TVM Shenzhen 2023, organisé par la communauté MLC.AI et HyperAI, et co-organisé par Openbayes et Tencent AI Lab, s'est tenu officiellement.Malgré une semaine de fortes pluies, l'enthousiasme des membres de la communauté est resté intact. Plus d'une centaine de participants, issus d'universités, de grandes entreprises, de fabricants de puces et d'instituts de recherche, ont fait le déplacement depuis les quatre coins du monde pour se joindre à cette rencontre en présentiel consacrée aux compilateurs d'IA. Parallèlement, de nombreuses autres personnes, ne pouvant se déplacer, ont participé activement à ce forum technique en ligne, via la diffusion en direct sur la chaîne Bilibili d'HyperAI.

Pour cet événement, nous avons invité cinq maîtres de conférences de l'Université Jiao Tong de Shanghai, de Tencent, de MachineTime et de Suiyuan Technology à partager leurs meilleures pratiques en matière de TVM et de MLIR, basées sur leurs propres applications commerciales.

Revue de l'événement

Voici une brève introduction à l’événement et une critique vidéo de l’événement.

Suivez le compte officiel WeChat « HyperAI » et répondez avec le mot-clé « TVM Shenzhen » pour obtenir la présentation PPT complète de l'intervenant.

Partager le sujet:Optimisation dynamique de forme côté processeur basée sur TVM

Contenu:Les compilateurs traditionnels pour l'apprentissage profond (dont TVM) ne prennent pas en charge les formes dynamiques, ce qui les rend inadaptés à la gestion des modèles de langage (longueur de séquence dynamique) et des modèles de détection (largeur/hauteur dynamique). Pour pallier ce problème, nous avons conçu et implémenté un schéma d'optimisation d'opérateurs de forme dynamique basé sur TVM et exécuté sur le processeur. Ce schéma surpasse les schémas de forme statique existants et ne nécessite quasiment aucun temps de recherche.

Lecture en direct :bilibili.com/video/BV18u4y1z7NM/?spm_id_from=333.1387.collection.video_card.click

Partager le sujet:Conception automatique d'un processeur d'IA : le compilateur est prédominant

Contenu:Avec le développement et la popularisation de l’AIGC représenté par de grands modèles de langage, la demande de puissance de calcul augmente de façon exponentielle. Par conséquent, la conception des puces de processeurs d’IA et la programmation correspondante sont devenues plus compliquées.

Pour simplifier et optimiser le processus, une architecture de compilation automatisée a permis de concevoir conjointement une solution potentielle.

Rediffusion du direct : bilibili.com/video/BV1hj411k7v4/?spm_id_from=333.1387.collection.video_card.click

Partager le sujet:MLIR et sa pratique de compilation de graphes IA

Contenu:Avec le développement rapide des puces et des frameworks d'IA, des compilateurs d'IA ont également émergé, tels que XLA et TVM. MLIR, en tant que framework de compilation générique et réutilisable, est largement utilisé dans les systèmes de compilation d'IA car il aide les fabricants de matériel à créer rapidement des compilateurs d'IA pour les structures de données.

Ce partage présente principalement quelques éléments de connaissances de base du MLIR, le processus Codegen du MLIR et les étapes pratiques pour créer un compilateur d'IA. De plus, nous discuterons également avec vous des idées de MLIR pour résoudre les problèmes clés des compilateurs d'IA.

Lecture en direct :https://www.bilibili.com/video/BV1wj411C7kJ/?spm_id_from=333.1387.collection.video_card.click&vd&vd

Partager le sujet:Conception et implémentation d'un compilateur d'IA basé sur MLIR

Contenu:Il existe de nombreux frameworks logiciels différents dans le domaine de l'IA et de l'apprentissage automatique (tels que TensorFlow, PyTorch, etc.), et les périphériques matériels sont de plus en plus diversifiés (CPU, GPU, TPU, etc.). En tant que pont reliant les deux, les compilateurs d’IA sont confrontés à de nombreux défis.

En tant qu'infrastructure de compilateur, MLIR fournit une série de composants de base réutilisables et facilement extensibles pour créer des compilateurs spécifiques à un domaine. Tencent a construit un compilateur d'IA de bout en bout basé sur MLIR pour fournir une optimisation de compilation pour les modèles d'IA des utilisateurs, simplifiant ainsi le déploiement de modèles sur une variété de puces d'IA et obtenant des performances maximales.

Lecture en direct :bilibili.com/video/BV1vk4y1F7Ku/?spm_id_from=333.1387.collection.video_card.click

Partager le sujet:Opportunités et défis des systèmes d'apprentissage automatique à l'ère des grands modèles

Contenu:Des progrès significatifs ont été réalisés en intelligence artificielle générative et en modélisation du langage naturel (MLN), démontrant des capacités remarquables et un potentiel de transformation profonde de nombreux domaines. Parallèlement, cela ouvre de nouvelles perspectives et soulève de nouveaux défis pour les systèmes d'apprentissage automatique. D'une part, les besoins considérables en calcul renforcent la nécessité d'optimiser les systèmes ; d'autre part, la dépendance à une architecture de modèle unique et à du matériel haute performance entraîne une convergence progressive de l'écosystème d'apprentissage automatique, autrefois ouvert.

Lecture en direct :bilibili.com/video/BV1A34y1N76w/?spm_id_from=333.1387.collection.video_card.click

Réunion de fin d'année TVM 2023

Du premier au troisième trimestre de cette année, nous avons organisé avec succès trois rencontres hors ligne, attirant de nombreux amis intéressés par le domaine des compilateurs d'IA qui se sont réunis dans différentes villes pour apprendre et discuter ensemble.

Le quatrième trimestre approche à grands pas et nous organiserons la réunion de fin d'année Meet TVM 2023 pour clôturer en beauté la série d'événements Meet TVM 2023. Nous invitons chaleureusement toutes les entreprises et tous les partenaires communautaires à participer et à contribuer à cet événement de diverses manières, que ce soit en recommandant des conférenciers ou en parrainant des lieux et des rafraîchissements.

Travaillons ensemble pour bâtir la communauté de compilateurs d'IA la plus active de Chine ! Enfin, voici une photo de groupe de l'événement ❤️

Obtenez le PPT :Suivez le compte officiel WeChat « HyperAI » et répondez avec le mot-clé « TVM Shenzhen » pour obtenir la présentation PPT complète de l'intervenant.

Organisateurs et partenaires

En tant qu'organisateur de cet événement, la communauté MLC.AI a été créée en juin 2022. Dirigée par Chen Tianqi, le principal inventeur d'Apache TVM et un jeune chercheur bien connu dans le domaine de l'apprentissage automatique, l'équipe a lancé le cours en ligne MLC, qui a systématiquement présenté les éléments clés et les concepts de base de la compilation de l'apprentissage automatique.

En novembre 2022, grâce aux efforts conjoints des bénévoles de la communauté MLC.AI, la première documentation complète en chinois pour TVM a été lancée et hébergée avec succès sur le site web HyperAI.Il fournit également aux développeurs nationaux intéressés par la compilation d'apprentissage automatique l'infrastructure - la documentation - pour accéder et apprendre une nouvelle technologie.

Au quatrième trimestre 2023, la série d'événements « 2023 Meet TVM » se tiendra à Hangzhou, et les entreprises et les partenaires communautaires sont invités à participer à la co-création.

Cours en ligne MLC :https://mlc.ai/

Documentation chinoise de TVM :https://tvm.hyper.ai/

La principale communauté chinoise d'intelligence artificielle et de calcul haute performance,Nous nous engageons à fournir des ressources publiques de haute qualité dans le domaine de la science des données aux développeurs nationaux.Jusqu'à présent, il a fourni des nœuds de téléchargement nationaux pour plus de 1 200 ensembles de données publiques, pris en charge plus de 300 requêtes de termes liés à l'intelligence artificielle et au calcul haute performance, hébergé la documentation chinoise complète de TVM et lancera bientôt plusieurs didacticiels de base et populaires.

Visitez le site officiel :https://hyper.ai/

OpenBayes Bayesian Computing est un fournisseur leader de services de calcul haute performance en ChineEn greffant des écosystèmes logiciels classiques et des modèles d’apprentissage automatique sur des puces hétérogènes de nouvelle génération, il fournit aux entreprises industrielles et à la recherche scientifique universitaire des produits de calcul de science des données plus rapides et plus faciles à utiliser. Ses produits ont été adoptés par des dizaines de grands scénarios industriels ou d’instituts de recherche scientifique de premier plan.

Visitez le site officiel :https://openbayes.com/

Le Tencent AI Lab est le laboratoire d'IA de niveau entreprise de Tencent.Fondé à Shenzhen en avril 2016, le laboratoire d'IA compte aujourd'hui plus de 100 chercheurs de haut niveau et plus de 300 ingénieurs d'application. S'appuyant sur la longue expérience de Tencent en matière de scénarios d'application, de données massives, de puissance de calcul et de talents exceptionnels, le laboratoire d'IA est tourné vers l'avenir, ouvert à la collaboration et déterminé à améliorer sans cesse la cognition, la prise de décision et la créativité de l'IA, afin de concrétiser sa vision : « L'IA partout ».

Tencent AI Lab met l’accent sur le développement de la recherche et de l’application.La recherche fondamentale se concentre sur quatre grandes directions : l’apprentissage automatique, la vision par ordinateur, la technologie de la parole et le traitement du langage naturel ; Les applications technologiques se concentrent sur quatre domaines principaux : les jeux, les humains numériques, le contenu et l'interaction sociale, et explorent dans un premier temps la recherche et l'application de l'IA dans l'industrie, l'agriculture, les soins de santé, la médecine, les sciences de la vie et d'autres domaines.