Autor: xixi

Herausgeber: Sanyang, Li Baozhu

Die Jahresabschlussparty 2023 Meet TVM · wurde am 16. Dezember in Shanghai erfolgreich abgeschlossen. Zu diesem Treffen waren nicht nur vier KI-Compiler-Experten eingeladen, die allen einen wunderbaren Austausch ermöglichten, sondern es gab auch eine Diskussionsrunde am runden Tisch, um die Innovationen und Herausforderungen von Maschinenlernsystemen im Zeitalter großer Modelle mit allen aus einer vielfältigeren Perspektive zu diskutieren.

Am 16. Dezember 2023 fand die erfolgreiche Jahresabschlussparty von Meet TVM in der Shanghai Entrepreneurs Public Training Base statt! Obwohl die Temperaturen in Shanghai stark sanken, tat dies der Begeisterung der Community-Mitglieder zur Teilnahme keinen Abbruch.Mehr als 140 Teilnehmer aus Wissenschaft und Industrie kamen aus aller Welt, um an dieser KI-Compiler-Party voller Weihnachtsstimmung teilzunehmen.

Als letzte Schlacht des Jahres 2023: Treffen Sie TVM,Es ist uns eine Ehre, sechs KI-Compiler-Experten der Shanghai Jiao Tong University, OctoML, Meituan, ByteDance, OpenBayes Bayesian Computing und NIO einladen zu dürfen, die uns wunderbare Reden und Diskussionsrunden bieten werden.

2023 Meet TVM · Die Jahresabschlussparty war ein perfekter Abschluss der KI-Compiler-Reise im Jahr 2023. Wir freuen uns darauf, im Jahr 2024 weiterhin mit Ihnen zusammenzuarbeiten, um gemeinsam ein neues Kapitel im Bereich der KI-Compiler aufzuschlagen.

01 Überprüfung der Veranstaltungsinhalte

Es folgt eine kurze Einführung in die Veranstaltung und ein Videorückblick auf die Veranstaltung.

Folgen Sie dem öffentlichen WeChat-Konto „HyperAI 超神经元“, antworten Sie im Hintergrund auf das Schlüsselwort „TVM-Jahresendparty“ und erhalten Sie die vollständige PPT der Gäste.

📢 Eine kleine Vorschau: Der Inhalt des Roundtable-Meetings wird nächste Woche in Form eines Texttranskripts veröffentlicht, also bleiben Sie dran~

Thema teilen:Tiefer Einblick in TVM Unity
Inhalt:Nach mehr als einem Jahr der Iteration und Aktualisierung wird TVM Unity voraussichtlich in naher Zukunft in den Hauptzweig von Apache TVM integriert und wird dann zum Hauptkompilierungsprozess von Apache TVM.In diesem Beitrag wird der Standardkompilierungsprozess von TVM Unity vorgestellt, der Unterschied zum vorhandenen TVM erläutert und erklärt, wie der vorhandene Workflow zu Unity migriert wird.
Video teilen:

https://www.bilibili.com/video/BV1vb4y1V75R/?spm_id_from=333.337.search-card.all.click

Thema teilen:Slim-LM: Einheitliches Kompilierungsframework für agile Entwicklung
Inhalt:Mit der schrittweisen Weiterentwicklung von MLC LLM und TVM Unity möchten immer mehr Benutzer versuchen, mit TVM ihre eigenen Modelle bereitzustellen. Es gibt jedoch viele Herausforderungen bei der flexiblen und effizienten Nutzung von TVM zum Erstellen und Kompilieren von Modellen.
Aufgrund dieser Nachfrage hat die TVM-Community vor Kurzem ein neues Framework namens Slim-LM eingeführt, um den TVM-Aufbau und den Modellkompilierungsprozess zu vereinfachen.Enthält drei Hauptfunktionen:

1. Codedefinition im PyTorch-Stil TVM-Modell

2. Einfache und effiziente Kompilierungstools

3. Einheitliches Quantisierungsalgorithmus-Framework

Video teilen:

https://www.bilibili.com/video/BV1dC4y1S7Gj/?spm_id_from=333.337.search-card.all.click

Thema teilen:Kompilierungsoptimierungspraxis basierend auf TVM
Inhalt:Durch die iterative Entwicklung von KI-Compilern wurden deren Benutzerfreundlichkeit und Benutzerfreundlichkeit erheblich verbessert.Als einer der Vertreter von KI-Compilern ist es eine wichtige Frage, wie die Rolle von TVM maximiert, seine eigenen Mängel behoben und es in großem Maßstab in Geschäftsszenarien wie Suche, Übertragung und Werbung implementiert werden kann.Dieser Austausch wird hauptsächlich die oben genannten Perspektiven erläutern.
Video teilen:

https://www.bilibili.com/video/BV1Ja4y1k7ba/?spm_id_from=333.337.search-card.all.click

Thema teilen:Auf dem Weg zur nahtlosen Integration der Modellkompilierung
Inhalt:Die Modellkompilierung wird bei der KI-Beschleunigung immer wichtiger.Allerdings ist die Übernahme der Modellkompilierung für Produktionsmodelle in IT-Unternehmen keine einfache Angelegenheit. Zu den größten Belastungen zählen Modelle aus unterschiedlichen Domänen, Frameworks oder Formaten, die Umstellung von vorhandenen Bibliotheken und die Einführung neuer ASICs. Um diese Probleme zu lösen, wurde ByteIR entwickelt, um die Produktivität der Modellkompilierung zu verbessern. ByteIR basiert auf OpenXLA und der LLVM/MLIR-Compiler-Infrastruktur.Es umfasst Front-End-, Compiler- und Laufzeitkomponenten, die jeweils unterschiedliche Probleme lösen. Diese drei Komponenten können zusammenarbeiten oder unabhängig voneinander arbeiten, um unterschiedliche Geschäftsanforderungen zu erfüllen.
Video teilen:

https://www.bilibili.com/video/BV1Nu4y1K7Af/?spm_id_from=333.337.search-card.all.click

02 2024 Treffen Sie TVM · Bleiben Sie dran

Vom 1. bis zum 4. Quartal 2023 haben wir erfolgreich vier Offline-Meetups in Shanghai, Peking und Shenzhen abgehalten.Ich freue mich sehr, Ingenieure, die sich für KI-Compiler interessieren, in verschiedenen Städten zusammenbringen und eine Plattform zum Lernen und zur Kommunikation bieten zu können. Im Jahr 2024 entwickeln wir den TVM-Stadtplan weiter.Wir laden alle Unternehmens- und Community-Partner herzlich ein, sich in verschiedenen Formen an der gemeinsamen Gestaltung zu beteiligen. Ob es um die Empfehlung von Dozenten oder die Bereitstellung von Veranstaltungsorten und Teepausen geht, sie alle sind uns willkommen.Lassen Sie uns gemeinsam daran arbeiten, die aktivste KI-Compiler-Community in China aufzubauen! Zum Schluss möchte ich noch ein Gruppenfoto von der Szene teilen❤️

Vom 1. bis zum 4. Quartal 2023 haben wir erfolgreich vier Offline-Meetups in Shanghai, Peking und Shenzhen abgehalten.Ich freue mich sehr, Ingenieure, die sich für KI-Compiler interessieren, in verschiedenen Städten zusammenbringen und eine Plattform zum Lernen und zur Kommunikation bieten zu können. Im Jahr 2024 entwickeln wir den TVM-Stadtplan weiter.Wir laden alle Unternehmens- und Community-Partner herzlich ein, sich in verschiedenen Formen an der gemeinsamen Gestaltung zu beteiligen. Ob es um die Empfehlung von Dozenten oder die Bereitstellung von Veranstaltungsorten und Teepausen geht, sie alle sind uns willkommen.Lassen Sie uns gemeinsam daran arbeiten, die aktivste KI-Compiler-Community in China aufzubauen! Zum Schluss möchte ich noch ein Gruppenfoto von der Szene teilen❤️

Das vollständige Transkript der Roundtable-Sitzung wird nächste Woche auf dem offiziellen Konto „HyperAI Super Neural Network“ veröffentlicht.Zu diesem Zeitpunkt können Sie sich die großartigen Reden der fünf Gäste beim Roundtable-Forum zum Thema „Innovationen und Herausforderungen von Systemen des maschinellen Lernens im Zeitalter großer Modelle“ ansehen.

Sie können sich auch die „TVM-Jahresabschlussparty“ merken, den QR-Code scannen, um der Veranstaltungsgruppe beizutreten und die neuesten Veranstaltungsinformationen zu erhalten~

03 Veranstalter und Partner

Als Organisator dieser Veranstaltung wurde im Juni 2022 die MLC.AI-Community gegründet. Unter der Leitung von Chen Tianqi, dem Haupterfinder von Apache TVM und einem bekannten jungen Wissenschaftler auf dem Gebiet des maschinellen Lernens, startete das Team den MLC-Onlinekurs, der systematisch die Schlüsselelemente und Kernkonzepte der Kompilierung maschinellen Lernens vorstellte.

Im November 2022 wurde dank der gemeinsamen Anstrengungen der Freiwilligen der MLC.AI-Community die erste vollständige chinesische TVM-Dokumentation veröffentlicht und erfolgreich auf der offiziellen HyperAI-Website gehostet. Damit werden inländischen Entwicklern, die an der Kompilierung von maschinellem Lernen interessiert sind, die grundlegenden Einstellungen für den Zugriff auf und das Erlernen einer neuen Technologie – der Dokumentation – bereitgestellt.
MLC-Onlinekurse:https://mlc.ai/Chinesische TVM-Dokumentation:https://tvm.hyper.ai/

HyperAI ist Chinas führende Community für künstliche Intelligenz und Hochleistungsrechnen und hat sich zum Ziel gesetzt, inländischen Entwicklern hochwertige öffentliche Ressourcen im Bereich der Datenwissenschaft zur Verfügung zu stellen.Bisher wurden inländische Download-Knoten für mehr als 1.200 öffentliche Datensätze bereitgestellt, über 300 Abfragen von Begriffen im Zusammenhang mit künstlicher Intelligenz und Hochleistungsrechnen unterstützt und mittlerweile sind Hunderte von Branchenbegriffen und -fällen enthalten, Tausende von öffentlichen Datensätzen und Tutorials einschließlich großer Modelle gestartet und die komplette chinesische TVM-Dokumentation gehostet.
Besuchen Sie die offizielle Website:https://hyper.ai/

OpenBayes Bayesian Computing ist ein führender Anbieter von Hochleistungs-Computing-Diensten in ChinaDurch die Integration klassischer Software-Ökosysteme und Modelle des maschinellen Lernens in heterogene Chips der neuen Generation werden Industrieunternehmen und der wissenschaftlichen Forschung an Universitäten schnellere und benutzerfreundlichere Produkte für die Datenwissenschaft bereitgestellt. Seine Produkte werden von Dutzenden großer Industrieszenarien oder führenden wissenschaftlichen Forschungsinstituten übernommen.
Besuchen Sie die offizielle Website:https://openbayes.com/

Centimeter Space (Xiamen) istChina Merchants GroupSeine professionelle Innovationspark-Managementgesellschaft betreibt den professionellen Inkubator „CM Space“ in Xiamen. Von der Südostküste aus und basierend auf den Vorteilen der drei Hauptgeschäftsbereiche der China Merchants Group – Transport, umfassende Stadt- und Parkentwicklung sowie Finanzen – konzentrieren wir uns darauf, Start-ups im Bereich künstliche Intelligenz in den frühen Entwicklungsphasen mit den am dringendsten benötigten Anwendungsszenarien, Modellüberprüfungen, Kunden in der Startphase und anderen Ressourcen zu unterstützen und bei der effizienten Inkubation von Unternehmen im Bereich künstliche Intelligenz zu helfen.

VorgesetzterHaiyun-Basis(Shanghai Cloud Computing Innovation Base, Shanghai Big Data Innovation Base) ist ein professioneller Inkubator auf nationaler Ebene, der schon früh in China gegründet wurde und die Entwicklung der Cloud-Computing-Branche von 0 auf 1 fördert. Mit dem Modell Fonds + Basis + Plattform und der Digitalwirtschaftsbranche als Kern konzentriert er sich auf Untersektoren wie Cloud Computing, Cloud Native, Big Data und künstliche Intelligenz sowie digitales Gesundheitswesen und hat fast tausend herausragende Unternehmen im In- und Ausland versammelt und inkubiert. Durch die Verbindung der vier Ökosysteme Technologie, Benutzer, Kapital und Dienste führen wir weiterhin das „Scenario Innovation Lab“ und das „Digital Economy Listing Preparation Camp“ durch, um eine digitale Wirtschaft aufzubauen.Branchenbeschleuniger.

Homevalley – eine grenzüberschreitende Serviceplattform aus einer Hand für globale Unternehmen – hat sich dem Aufbau einer marktorientierten Unternehmensserviceplattform verschrieben, deren Kerninhalte unternehmerische Inkubationsbasen, Homevalley-Talente, Homevalley-Unternehmensdienste und Homevalley-Kulturkommunikation sind. Wir vernetzen uns mit ausländischen Think Tanks und Marktressourcen in Nordamerika, Europa, Asien usw. und bieten Dienstleistungen wie den Betrieb von Industrieparks und Inkubationszentren, Unternehmerschulungen, Unternehmensberatung, Investitionen und Finanzierungen, die Förderung der Rückkehr ausländischer Talente sowie globale Innovations- und Unternehmeraktivitäten an und unterstützen chinesische Start-ups bei der Expansion ins Ausland. Home Valley hat sich zum Ziel gesetzt, Talente zu entdecken, zu fördern und zu erreichen, herausragenden jungen Talenten dabei zu helfen, ihre Träume zu verwirklichen und für Rückkehrer einen Ort der Heimat zu schaffen, an dem sie Unternehmen gründen und ihre Talente fördern können.