内容の概要:「2023 Meet TVM 北京駅」は6月17日、中関村ガレージコーヒーで成功裡に開催された。企業や大学から150名以上の参加者が集まり、活発な議論が交わされた。
キーワード:機械学習コンピレーション 2023 TVM の紹介
この記事は、HyperAI Super Neural WeChat パブリック プラットフォームで初めて公開されました~
6 月 17 日、MLC.AI と HyperAI が主催し、OpenBayes が共催した 2023 Meet TVM の第 2 回オフライン集会は成功裡に終了しました。
上海交通大学、ARM China、Horizon、NIO から 7 名の技術専門家を招待できることを光栄に思います。AI コンパイラの独自のビジネス シナリオにおける適用事例と組み合わせることで、現場の友人たちに素晴らしい共有をもたらしました。
北京の地元の友人に加え、天津、南京、杭州、上海などからも多くの友人が参加し、それぞれのビジネス上の疑問や課題を持ち寄り、技術の共有を聞きながら活発な意見交換を行いました。 。
以下はイベントの紹介とイベントのレビュー動画です。
WeChatの公開アカウント「HyperAI Super Neural」をフォローし、背景にTVM北京というキーワードを入れて返信すると、ゲストの完全なPPTを入手できます。
トピックを共有:MLC-LLM を使用して言語モデルを任意のデバイスに展開する
内容紹介:生成人工知能と大規模言語モデル (LLM) の分野では大きな進歩が見られ、これらは顕著な機能を持ち、多くの分野を根本的に変える可能性があります。現在、これらのモデルのほとんどは強力なコンピューティング能力とメモリ要件を必要とするため、個人の PC、携帯電話、および小型のエンドサイド デバイスには導入できません。 MLC-LLM は、コンパイル テクノロジを通じて実行速度とメモリ要件を最適化し、クライアント側での LLM の展開を可能にし、その後の言語モデルの開発のための新しいインフラストラクチャを提供します。
ライブビデオ:
https://www.bilibili.com/video/BV1rm4y1Y7Si/?spm_id_from=333.999.0.0
トピックを共有:ARM 中国の TVM
内容紹介:AI アプリケーションの開発が急成長する中、AI アプリケーションを高速化するためにさまざまな NPU チップがエッジ デバイスで使用されており、さまざまな機械学習フレームワークやオペレーティング システムにどのように迅速に適応するかが問題となっています。 ARM China は、独自のツール チェーンと TVM の統合を通じて、グラフ分割や自動ヘテロジニアス実行などの複数の実用的な機能を実現し、顧客が ARM China Zhouyi NPU チップ上に AI アプリケーションを迅速に展開できるように支援しています。
ライブビデオ:
https://www.bilibili.com/video/BV1GW4y1X7tL/?spm_id_from=333.337.search-card.all.click
トピックを共有:AI 異種混合プログラミングとコンパイルの実践
内容紹介:AI チップは、密結合と異種混合に向けて常に進化しており、チップのプログラマビリティとパフォーマンスの最適化は、業界が解決しようとしてきた重要な問題です。この共有では主に、AI コンパイルの最適化、プログラマビリティなどの観点から Horizon のいくつかのプラクティスを紹介し、いくつかの重要な問題について詳細な議論を行います。
ライブビデオ:
https://www.bilibili.com/video/BV1js4y117NT/?spm_id_from=333.337.search-card.all.click
トピックを共有:NIO での TVM
内容紹介:自動運転の分野は、課題と機会が共存する分野であり、製品の反復とユーザーの運転体験に対する要求がますます高まっているため、一般的な AI エンジンでは複雑な製品の生産ラインを効率的かつ安全にサポートできません。私たちは、TVM に基づいて NIO の自社開発 AI コンパイラーを開発しました。これにより、自動運転分野での一般的な問題のいくつかが解決され、体系的なソリューションと技術アーキテクチャが形成されました。
NIO の 3 人のエンジニア、Meng Tong、Chen Xi (Zhihu aaronxic)、Wang Lulu が、関連するテクノロジーとアーキテクチャについて詳しく説明しました。
ライブビデオ:
https://www.bilibili.com/video/BV1fV4y117g7/?spm_id_from=333.337.search-card.all.click
トピックを共有:動的ニューラルネットワークコンパイルの最適化
内容紹介: 動的ニューラル ネットワークは、精度、計算効率、適応性の点で静的ニューラル ネットワークに比べて重要な利点を示します。しかし、既存の深層学習フレームワークとコンパイラは主に決定論的な実行による静的ネットワークの最適化に焦点を当てており、動的ネットワークでの最適化の機会を逃しています。動的ネットワークを最適化する鍵は、ネットワーク内のデータ フローを追跡することです。この共有では、動的ニューラル ネットワークのコンパイルに関する私たちの取り組みについて詳しく説明します。
ライブビデオ:
https://www.bilibili.com/video/BV1Mz4y1v7se/?spm_id_from=333.337.search-card.all.click
3 月の上海ステーション、6 月の北京ステーションに続き、今年で 3 回目となるオフライン ミートアップは、AI コンパイラに関心のあるエンジニアをさまざまな都市に集めて、誰もが仲間とコミュニケーションし、知識を交換できるプラットフォームを提供できることを非常に嬉しく思います。 9月に深センで開催する予定です。すべての企業とコミュニティパートナーが共創に参加し、TVM中国語コミュニティの影響力を継続的に拡大することを歓迎します。
また、また、TVM 中国語コミュニティの貢献者も積極的に募集しています。私たちのメンバーになりたい場合は、いつでも WeChat antonia0912 を追加してください。参加する熱意をお待ちしています。
現在募集しているのは以下の通りです。
* TVM 中国語ドキュメント翻訳ボランティアは、中国語ドキュメントと英語ドキュメントの同期を確保し、TVM を学び理解したいより多くのエンジニアにインフラストラクチャを提供します (公式 Web サイト: tvm.hyper.ai を参照)。
※活動ボランティア。各地での活動の組織・企画・実行と、全国各地のインターネットセンターへの拠点設置を担当します。
* Q&A ボランティア。TVM に精通しており、問題に遭遇したコミュニティ内の友人に洞察やアイデアを積極的に提供して、誰もが技術的な問題を解決できるようにします。
2023 年にはさらに多くの都市が引き続きアンロックされる予定です。私たちに参加して、中国で最も活発な AI コンパイラー コミュニティを作りましょう!
最後に現場で集合写真を撮りましょう❤️
このイベントの主催者として、MLC.AIコミュニティ(https://mlc.ai/Apache TVM の主な発明者であり、機械学習の分野で有名な若い学者である Chen Tianqi がチームを率いて、機械学習の重要な要素と中心概念を体系的に紹介する MLC オンライン コースを立ち上げました。編集。
2022 年 11 月に、MLC.AI コミュニティ ボランティアの協力により、最初の完全な TVM 中国語ドキュメントがオンラインで公開され、HyperAI 公式 Web サイトで正常にホストされています。さらに、機械学習のコンパイルに興味のある国内の開発者に、新しいテクノロジーにアクセスして学習するためのインフラストラクチャ、つまりドキュメントを提供します。
2023 年に、コミュニティは全国の多くの都市で「2023 Meet TVM」シリーズの活動を開始する予定で、企業とコミュニティ パートナーは共創への参加を歓迎します。
MLC オンライン コース:https://mlc.ai/
TVM 中国語ドキュメント:https://tvm.hyper.ai/
HyperAI は、中国を代表する人工知能およびハイパフォーマンス コンピューティング コミュニティです。データサイエンス分野の高品質な公共リソースを国内開発者に提供することに尽力し、これまでのところ、1,200以上の公開データセットの国内ダウンロードノードを提供し、人工知能とハイパフォーマンスコンピューティングに関連する300以上の用語クエリをサポートし、完全なTVM中国語ドキュメントをホストしており、間もなく複数の基本的な人気チュートリアルを開始する予定です。
公式ウェブサイトにアクセスしてください:https://orion.hyper.ai/
OpenBayes は、中国の大手ハイパフォーマンス コンピューティング サービス プロバイダーです。古典的なソフトウェア エコロジーと機械学習モデルを新世代の異種チップに移植することにより、産業企業や大学の科学研究向けに、より高速で使いやすいデータ サイエンス コンピューティング製品を提供しています。その製品は数十の大規模産業現場や主要な科学研究機関で採用されています。
公式ウェブサイトにアクセスしてください:https://openbayes.com/
Garage Coffee は、コーヒーショップを基盤として、起業家向けの総合的な投資および融資ソリューションをワンストップで提供し、プロジェクト関係者が迅速に資金を調達し、迅速な発展を促進できるように支援するプラットフォームです。レポートやその他の高品質な付加価値サービスを提供し、投資家が優れたプロジェクトを迅速に発見できるように支援し、先行投資、後続投資、リソース生産、経験生産などの基盤を提供し、マルチプロジェクトの共同開発を促進します。 -レベルの投資家グループ。
この記事は、HyperAI Super Neural WeChat パブリック プラットフォームで初めて公開されました~