来週の土曜日に上海でお会いしましょう！ AI Compiler Technology Salon には、Zhiyuan、Byte、Lingchuan Technology などの大手企業が集結
2023 年、HyperAI は北京、上海、深センで 4 回の Meet TVM オフライン集会を開催しました。1,000 人以上の上級実践者や愛好家が集まり、徐々に豊かなコミュニティ生態系を確立してきました。 2024 年、HyperAI は AI コンパイラーの分野に注力し、業界関係者向けにオープンなコミュニケーション プラットフォームを提供し続けます。今年 7 月には、第 5 回 Meet AI コンパイラー テクノロジー サロンを開催しました。 2024 年も終わりに近づいている今、大型モデルトラックでの熾烈な戦いは続いています。AI コンパイラーの新たなブレークスルーと新たな応用とは何でしょうか。
HyperAI は 12 月 28 日、上海の五角場で第 6 回 Meet AI コンパイラー テクノロジー サロンを開催します。このイベントはテクノロジー共有とラウンドテーブル ディスカッションの 2 つの部分に分かれています。
まず最初に、Horizon、Beijing Zhiyuan Artificial Intelligence Research Institute、ByteDance、Lingchuan Technology の 4 人の上級専門家をお招きし、アプリケーション ケースと業界の観察を共有していただきます。さらに、上海交通大学およびApache TVM PMCのFeng Siyuan博士がラウンドテーブルセッションのホストを務め、専門的な技術的観点からゲストの考えに意見をぶつけます。
皆様に素敵なプレゼントやティータイムもご用意しております。 イベントに登録して「HyperAI Super Neural」の公開アカウントをフォローし、バックグラウンドで「1228 Shanghai」と返信すると抽選に参加できます。賞品は 12 月 28 日のイベントでオフラインで受け取る必要がありますので、ぜひご参加ください~
イベント詳細
日時：12月28日（土）13:30～17:45
会場：上海五角創業学院2階講堂（楊浦区大雪路322号）
定員：200名（当日は席に限りがございますのでお早めにお申込みください）
登録: リンクをクリックして登録します
議題：
ゲストと議題
セッション 1 ゲストの共有
トピックを共有:Transformer モデルのコンパイルと展開の最適化の実践
はじめに: Transformer モデルは、近年 LLM の分野で目覚ましい成果を上げているだけでなく、コンピュータ ビジョンの分野でも広く使用されています。自動運転シナリオでは、Transformer モデルのコンパイルと展開の最適化は複雑なプロセスです。エンドツーエンド モデルと VLM は両方とも、エンドサイドのコンパイル、最適化、展開に大きな課題をもたらします。この共有では主に、この点に関する Horizon の実践と経験の一部を紹介します。
この共有を見ると、次のことが理解できるでしょう。
1. 視覚的な Transformer モデルのコンパイル、最適化、展開が直面する課題
2. Transformer モデルのコンパイルと最適化における Horizon の探求と実践
トピックを共有:FlagGems: 研究開発の進捗と生態学的応用の探求
内容紹介：バージョン 2.0 のリリース以来、Zhiyuan チーム、パートナー メーカー、Triton 中国語コミュニティの緊密な協力により、FlagGems は、サポートされる演算子の数、コンピューティング パフォーマンス、コード生成、およびランタイム メカニズムの点で、研究開発において大きな進歩を遂げました。同時に、FlagGems は上流と下流の分野を接続し、大規模モデルのトレーニングと推論適応、マルチバックエンド チップの統合などにおける革新的な探求を開始し、多様なエコシステムにおけるオペレーター ライブラリのアプリケーション シナリオをさらに拡大します。
この共有を見ると、次のことが理解できるでしょう。
1. FlagGemsの最新の研究開発成果と技術改良
2. 演算子ライブラリを大規模モデルに適応させる革新的な実践と経験
3. マルチバックエンドチップ統合の技術的ソリューションと応用効果
4. コミュニティと多様な生態学的構築におけるトリトンチャイナの進歩
トピックを共有:AIコンパイラの設計を計算・メモリアクセス・通信の最適化から考える
内容紹介：AI チップのコンパイルの最適化には、コンピューティング、メモリ アクセス、通信の 3 つの観点からの最適化の課題が必要です。このレポートでは、AI コンパイラーの設計と最適化の経験に関する 3 つの側面を共有します。コンピューティングの観点からは、カスタマイズされたアクセラレーション ユニットの最適化を共有し、メモリ アクセスの観点からは、AI チップのメモリ アクセス モデリングと最適化を共有し、コンピューティングと通信の統合の経験と進歩を共有します。
この共有を視聴している視聴者は、次のことを理解できるでしょう。
1. AIコンパイラ最適化のグローバルな視点
2. AI チップの計算能力を最大限に活用するための経験とテクニックを理解する
3. 分散AIコンパイラの今後の開発方向を理解する
トピックを共有:マルチコア アーキテクチャ NPU に基づく大規模モデルのコンパイルの最適化と推論高速化の実践
内容の紹介: この共有は、大規模モデルのコンパイルの最適化と推論の高速化におけるマルチコア アーキテクチャ NPU の実践的な探求に焦点を当てています。Transformer などの大規模モデルの計算特性を分析することで、タイル戦略に基づく行列の最適化、データ並列性とモデル並列性のスケジューリング メカニズム、演算子とパイプライン設計を統合する効率的な推論手法を提案します。マルチコア アーキテクチャの並列特性と組み合わせることで、演算子の分解とメモリ管理が最適化され、推論のスループットとリソースの使用率が大幅に向上します。
この共有を見ると、次のことが理解できるでしょう。
1. クラウドラージモデル推論チップのアーキテクチャ
2. Transformer アーキテクチャにおける Attendance スーパー オペレーターの最適化戦略
セッション2 ラウンドテーブルディスカッション
ラウンドテーブルのテーマ:チップ・ネットワーク・ソフトウェア・アルゴリズム・エコロジーの共同開発
スポンサーとパートナー
HyperAI は、中国を代表する人工知能およびハイパフォーマンス コンピューティング コミュニティです。データセットの高速ダウンロード、オンラインチュートリアルのデモンストレーション、論文の詳細な解釈、会議カレンダーの統合などのさまざまなインフラストラクチャを提供することで、中国のデータサイエンスおよび人工知能業界の開発者や愛好家が学び、理解し、実践できるよう支援することを目的としています。 . コミュニティと協力して人工知能の未来を築きましょう。現在、Super Neural 公式 Web サイトでは、数千の古典的で高品質な公開データ セットとチュートリアルを公開しており、中国で最も活発な AI コンパイラ コミュニティを運営しています。
公式ウェブサイトにアクセスしてください:https://hyper.ai/
OpenBayes は中国の大手ハイパフォーマンス コンピューティング サービス プロバイダーです古典的なソフトウェア エコロジーと機械学習モデルを新世代の異種チップに移植することにより、産業界や大学の科学研究向けに、より高速で使いやすいデータ サイエンス コンピューティング製品を提供します。その製品は、数十の大規模産業で使用されています。シナリオまたは大手科学研究会社によって使用されます。
公式ウェブサイトにアクセスしてください:https://openbayes.com/
MLC.AI コミュニティは、2022 年 6 月に設立されました。Apache TVM の主な発明者であり、機械学習の分野で有名な若い学者である Chen Tianqi がチームを率いて、MLC オンライン コースを立ち上げました。このシステムは、機械学習のコンパイルの主要な要素と中心となる概念を導入します。
2022 年 11 月、MLC.AI コミュニティ ボランティアの共同の努力により、最初の完全な TVM 中国語ドキュメントがオンラインで公開され、HyperAI Super Neural 公式 Web サイトで正常にホストされました。これにより、機械学習のコンパイルに関心のある国内開発者にさらに多くの情報を提供できるようになりました。新しいテクノロジーの基礎、つまりドキュメントを学びます。
MLC オンライン コース:https://mlc.ai/
TVM 中国語ドキュメント:https://tvm.hyper.ai/
上海五角イノベーション起業学院は、楊浦区政府と有名な大学、業界をリードする企業、革新的なサービス組織が共同で設立した非営利の教育およびサービス組織です。「イノベーションと起業家精神を成功しやすくするための深いつながりを生み出す」というミッションのもと、起業家とイネーブラーを結びつけ、大量の起業家精神とイノベーションの要素とリソースの配分効率を向上させ、創造を促進します。
2022年11月、五角昌起業家学院は大学の公共スペースを正式にオープンし、800平方メートルのスペースを大衆起業家精神とイノベーション群衆に開放して共有し、パートナーと共同で大衆起業家精神とイノベーションの公共福祉ブランド「カレッジコーヒー」を立ち上げる。また、CUHK上海センターやShui On Groupなど、大衆起業家精神と公共福祉サービスについて共通の理解を共有するKOL、企業、社会団体を「公共福祉パートナー」として招待し、さまざまな形態の起業家を集める方法を共同で設計する。これまで「カレッジコーヒー」は、さまざまな形で合計140回以上の大規模起業家精神やイノベーションをテーマにした活動を開催し、3,000人以上の参加者を集めてきました。
イベントサポート
