Command Palette
Search for a command to run...
ملخص الحدث | من تحسين عملية الترجمة إلى تطبيقات السيناريوهات: تحليل متعدد الأبعاد لابتكارات تكنولوجيا مترجمات الذكاء الاصطناعي وتجربة تطبيقها في عصر الوكلاء
في الأول من أغسطس، اختُتمت بنجاح فعاليات النسخة التاسعة من صالون "لقاء مع مُترجمات الذكاء الاصطناعي" التقني في تشونغ قوان تسون، بكين! وقد شارك في هذه الجلسة تشن تيان تشي، أحد رواد مجال مُترجمات الذكاء الاصطناعي، إلى جانب نخبة من الخبراء التقنيين من شركات التكنولوجيا الرائدة. وقدّموا رؤاهم حول لغات البرمجة، وتحسين العمليات، وتنفيذ الاستدلال، وسيناريوهات التطبيق، وهي مجالاتٌ لطالما انخرطوا فيها بعمق. ومن التطور المستمر لمجتمع المصادر المفتوحة إلى التطبيق العملي لتحسين المُترجمات في سيناريوهات واقعية، تلاقت مسارات تقنية مختلفة هنا، مما أضفى على المشهد التقني لمُترجمات الذكاء الاصطناعي مزيدًا من الشمولية.
تابع حساب WeChat الرسمي "HyperAI" وأجب بالكلمة المفتاحية "0801 AI Compiler" للحصول على عرض PowerPoint التقديمي الكامل للمتحدث.
هذه المرة، رأينا العديد من الوجوه المألوفة وتعرفنا على العديد من الأصدقاء الجدد. على خشبة المسرح، قدمت فرق مختلفة عروضًا تقنية، بينما كان المطورون يتبادلون الأسئلة والأفكار حول التفاصيل التقنية. من جلسة مشاركة إلى جلسة أسئلة وأجوبة، ثم إلى مناقشات استمرت خلال استراحة الشاي، توسعت العديد من الأفكار بطرق جديدة من خلال هذا التفاعل. ربما لهذا السبب أصررنا دائمًا على إنشاء فعالية "لقاء مُترجم الذكاء الاصطناعي" - لإتاحة الفرصة للعاملين في مجال مُترجمات الذكاء الاصطناعي للالتقاء، ولإتاحة فرص الاستكشاف في اتجاهات مختلفة، ولخلق مجتمع تقني مترابط ودافئ لمجموعة من الأشخاص الذين جمعتهم التكنولوجيا.
مراجعة محتوى الحدث
المشاركة والمراجعة
شارك الموضوع:في عصر وكلاء الذكاء الاصطناعي، كيف ينبغي لنا إعادة التفكير في مُجمِّعات الذكاء الاصطناعي؟ وما هو الاتجاه الذي ينبغي أن تتخذه مُجمِّعات الذكاء الاصطناعي المستقبلية؟
انقر هنا لعرض سجل المشاركة الكامل:
تشين تيانكي: في عصر الوكلاء، كيف ينبغي لنا إعادة التفكير في مُجمِّعات الذكاء الاصطناعي؟
شارك الموضوع:FlagTree: امتدادات لغة Triton-TLE، وواجهة Tile IR الخلفية، وممارسات تحسين المُصرّف
محتويات:سيُقسّم هذا العرض التقديمي إلى ثلاثة أجزاء. يُقدّم الجزء الأول التحديات التي تواجهها لغة Triton، وكيف تُتيح تقنية TLE (المُعاملات المُتتبّعة) الكشف التدريجي عن تفاصيل الأجهزة من خلال ثلاثة مستويات من امتدادات اللغة، مما يُحقق توازنًا أفضل بين قابلية النقل والصيانة والأداء. يُركّز الجزء الثاني على الممارسة الهندسية لدمج Tile IR في FlagTree الخاص بمُصرّف Triton، مُوضّحًا كيف يُوسّع هذا النوع الجديد من الواجهة الخلفية للمُصرّف نطاق تحسين أداء مُعاملات Triton. أما الجزء الثالث، فسيُحلّل بشكل منهجي تقنيات تحسين المُصرّف الرئيسية، مثل تحسين التخطيط وإعادة ترتيب التعليمات، مُقدّمًا مسارًا كاملاً لتحسين عملية التجميع للمُعاملات عالية الأداء عبر الشرائح.
شاهد جلسة المشاركة هذه وستتعلم:
1. كيف تتحكم TLE في الذاكرة الموجودة على الشريحة، وكيف تعبر عن النماذج الموزعة ونماذج المنتج والمستهلك، وكيف تقوم بتضمين اللغة الأصلية للبائع؟
2. كيف يمكن لتقنيات TLE و Tile IR الخلفية تحسين الحد الأقصى لأداء مشغلي مفاتيح Triton؟
3. كيف تعمل تقنيات تحسين المترجم على تقليل الحمل الزائد لتحويل تخطيط البيانات، وتحسين كفاءة تنفيذ التعليمات، وإطلاق العنان لأداء عامل التشغيل Triton بشكل أكبر.
انقر هنا لعرض سجل المشاركة الكامل:
شارك الموضوع:TileRT: السرعة هي الذكاء - الاستكشاف الحسابي والتصميم المشترك لاستنتاج النماذج الكبيرة بزمن استجابة منخفض للغاية
محتويات:مع وصول النماذج الضخمة إلى تريليونات المعاملات ودخولها عصر الذكاء الاصطناعي، أصبحت سرعة الاستدلال الفائقة عنصرًا أساسيًا لدعم تدفقات المهام المعقدة وإطلاق العنان الكامل لإمكانات النموذج. ومع ذلك، عندما تحاول الأنظمة تجاوز حدود زمن الاستجابة، غالبًا ما تصبح بنى الأنظمة التقليدية واختناقات التنفيذ عقبات لا يمكن التغلب عليها.
يقدم هذا التقرير أحدث الاستكشافات لـ TileRT، موضحًا كيفية بناء حزمة برمجية لحساب النماذج واسعة النطاق مع زمن استجابة منخفض للغاية، من منظور مترجمات الذكاء الاصطناعي، وتطور بنية وقت التشغيل إلى التصميم المشترك لنظام النموذج.
شاهد جلسة المشاركة هذه وستتعلم:
1. السرعة هي الذكاء: استكشاف لماذا أصبحت "السرعة" تدريجياً مؤشراً رئيسياً لجانب الاستدلال في النماذج الكبيرة في عصر الفاعلية.
2. استكشاف بنية النظام: يقدم هذا القسم التطور المعماري لـ TileRT، باستخدام GLM-5 كمثال لمناقشة كيفية تحسين أداء الاستدلال بشكل كبير عن طريق إعادة هيكلة جدولة الحساب الأساسية.
3. تصميم النماذج والأنظمة المشتركة وممارسة الإنتاج: مشاركة كيفية التغلب على عنق الزجاجة في سرعة 1000 معاملة في الثانية في الاستدلال أحادي الدفعة لنماذج ذات تريليون معلمة من خلال التصميم المشترك للنماذج والأنظمة.
انقر هنا لعرض سجل المشاركة الكامل:
شارك الموضوع:FalconGEMM: تجاوز ذروة أداء الأجهزة بضرب المصفوفات ذي التعقيد المنخفض
محتويات:يُعدّ ضرب المصفوفات (GEMM) جوهر القدرة الحاسوبية لتدريب النماذج الكبيرة واستنتاجها. مع ذلك، ومع تزايد حجم النموذج بشكلٍ هائل، يقترب تعقيد الخوارزمية القياسية O(N³) باستمرار من الحد الأقصى لقدرة الجهاز. لذا، أصبح الحفاظ على الأداء الأمثل عند بلوغ قدرة الحوسبة ذروتها تحديًا رئيسيًا لبنية النماذج الكبيرة. يُعدّ فهم مبادئ وقيمة وتحديات هندسة ضرب المصفوفات منخفض التعقيد، وتجاوز سقف الأداء في سياق تحسين العمليات الذي يصل إلى ذروته، أمرًا بالغ الأهمية. أحد المسارات التي استكشفها المجتمع الرياضي لأكثر من 50 عامًا هو ضرب المصفوفات منخفض التعقيد (LCMA، مثل Strassen وAlphaTensor) - أي استبدال عدد أقل من عمليات الضرب بمزيد من عمليات الوصول إلى الذاكرة والجمع، وبالتالي "تجاوز" الحد الأقصى لقدرة الجهاز. مع ذلك، أبقت التحديات الهندسية الرئيسية الثلاثة، وهي تضخم الوصول إلى الذاكرة، واختيار الخوارزمية، وقابلية النقل عبر المنصات، هذا الأسلوب في المستوى النظري لفترة طويلة.
يقدم هذا التقرير مشروع FalconGEMM، الذي ينقل خوارزمية LCMA من مرحلة التصميم النظري إلى بيئة برمجية جاهزة للاستخدام، وذلك عبر ثلاثة مستويات: توليد الكود تلقائيًا بواسطة المُصرّف، وتحسين الوصول إلى الذاكرة من خلال دمج البيانات المتوازية الجماعية، واتخاذ قرارات الخوارزمية بناءً على نماذج الأداء. كما يحقق المشروع تفوقًا شاملًا على المكتبات الرسمية الرائدة على مختلف منصات وحدات المعالجة المركزية ووحدات معالجة الرسومات، بالإضافة إلى معالجة أحمال العمل الحقيقية ذات النماذج الكبيرة.
شاهد جلسة المشاركة هذه وستتعلم:
1. فهم المبادئ والقيمة والتحديات الهندسية لضرب المصفوفات منخفضة التعقيد التي تتجاوز سقف الأداء عندما يصل تحسين المشغل إلى حده الأقصى.
- الحلول التقنية والممارسات متعددة المنصات لشركة FalconGEMM.
انقر هنا لعرض سجل المشاركة الكامل:
شارك الموضوع:AscendNPU IR: منصة التجميع مفتوحة المصدر وتدعم التكامل متعدد اللغات مع Ascend.
محتويات:أصبح AscendNPU IR، وهو مكون مُصرّف Ascend، مفتوح المصدر بالكامل. وباعتباره طبقة الوصول MLIR لـ Ascend إلى أُطر البرمجة الخارجية، فإنه يوفر تكاملاً مرنًا، وتعبيرًا كاملاً، وقدرات تحسين تجميع متوافقة مع Ascend، ويدعم العديد من لغات البرمجة الخاصة بالمجال (DSL) لتحسين أداء مُعاملات Ascend.
شاهد جلسة المشاركة هذه وستتعلم:
1. فهم البنية التقنية العامة وفلسفة التصميم لـ AscendNPU IR.
2. فهم الميزات الجديدة لـ Ascend NPU IR لتوسيع Ascend 950.
3. فهم أنشطة بناء مجتمع AscendNPU IR وكيفية المشاركة فيها.
انقر هنا لعرض سجل المشاركة الكامل:
شارك الموضوع:مُجمِّع ذكاء اصطناعي للأغراض العامة في مجال الذكاء المُجسَّد
محتويات:يقدم هذا التقرير مترجمًا للأغراض العامة للذكاء المجسد والنماذج الكبيرة متعددة الوسائط، مع التركيز على التقاط وتصدير وتجميع وتجميع ونشر وقت التشغيل وتحسين أداء خطوط أنابيب الخوارزمية الكاملة، ومعالجة القضايا الرئيسية في التسليم على الحافة والتشغيل المستقر والتكيف عبر الأطر وتوسيع نطاق هندسة نماذج الروبوت.
شاهد جلسة المشاركة هذه وستتعلم:
1. فهم التحديات الأساسية التي تميز نشر نموذج الذكاء المجسد عن نشر النموذج التقليدي، بما في ذلك التعقيد الهندسي وتكاليف الصيانة الناتجة عن النماذج المتعددة والأطر المتعددة وخطوط الأنابيب متعددة المراحل.
2. إتقان كيفية قيام المترجم العام بالتقاط تدفق الخوارزمية الكامل من خلال التتبع الديناميكي، وتنظيم الوحدات النمطية مثل المعالجة المسبقة، ونموذج VLA، وLLM، والمعالجة اللاحقة في قالب DAG قابل للتجميع والنشر.
3. فهم كيفية دعم التجميع المجمع وبنية وقت التشغيل الموحدة للخلفيات المختلفة، والاستفادة من مزايا الرقائق المختلفة مع الحفاظ على سلسلة تسليم موحدة.
4. فهم نموذج الواجهة بين مترجم المجال المجسد ومنصة التوزيع.
انقر هنا لعرض سجل المشاركة الكامل:
المنظمون والشركاء
HyperAI (hyper.ai) هي شركة رائدة عالميًا في مجال الذكاء الاصطناعي والحوسبة عالية الأداء.ويهدف إلى مساعدة المطورين والمتحمسين في صناعة علوم البيانات والذكاء الاصطناعي العالمية على التعلم والفهم والممارسة من خلال توفير سلسلة من الخدمات مثل تقارير معلومات الصناعة، وتنزيلات مجموعات البيانات السريعة، وعروض البرامج التعليمية عبر الإنترنت، وتقييمات أداء النماذج الشائعة، وتوصيات الأوراق البحثية المتطورة، وتفسيرات النتائج عالية القيمة، وتكامل تقويم المؤتمرات العليا، وبناء مستقبل الذكاء الاصطناعي مع المجتمع.
قم بزيارة الموقع الرسمي:https://hyper.ai/
OpenBayes Bayesian Computing هي شركة رائدة في تقديم خدمات الحوسبة عالية الأداء في الصينمن خلال دمج أنظمة البرمجيات الكلاسيكية ونماذج التعلم الآلي على شرائح غير متجانسة من الجيل الجديد، فإنها توفر للمؤسسات الصناعية والبحث العلمي الجامعي منتجات حوسبة علوم البيانات أسرع وأسهل في الاستخدام. وقد تم اعتماد منتجاتها من قبل العشرات من السيناريوهات الصناعية الكبرى أو معاهد البحوث العلمية الرائدة.
قم بزيارة الموقع الرسمي:https://openbayes.com/
تأسس مجتمع MLC.AI في يونيو 2022. قاد تشين تيانكي، المخترع الرئيسي لـ Apache TVM والباحث الشاب المعروف في مجال التعلم الآلي، الفريق لإطلاق دورة MLC عبر الإنترنت، والتي قدمت بشكل منهجي العناصر الرئيسية والمفاهيم الأساسية لتجميع التعلم الآلي.
في نوفمبر 2022، وبفضل الجهود المشتركة لمتطوعي مجتمع MLC.AI، تم إطلاق أول وثائق TVM الصينية الكاملة وتم استضافتها بنجاح على الموقع الرسمي لـ HyperAI، مما يوفر للمطورين المحليين المهتمين بتجميع التعلم الآلي الإعدادات الأساسية للوصول إلى تقنية جديدة وتعلمها - الوثائق.
دورات MLC عبر الإنترنت:https://mlc.ai/
وثائق TVM الصينية:https://tvm.hyper.ai/
دعم أماكن الفعاليات
تأسست شركة بكين تشونغ قوان تسون لتطوير الابتكار في مدينة العلوم والتكنولوجيا المحدودة في مايو 2019، وتتبوأ مكانة رائدة كمنصة استثمارية تكنولوجية وخدمات صناعية متكاملة، تدعم بناء مجمعات علمية وتكنولوجية عالمية المستوى. وتماشياً مع التوجه الاستراتيجي لمنطقة هايديان نحو بناء نظام صناعي حديث متكامل (1+X+1)، تركز الشركة على خمسة قطاعات أعمال أساسية: الخدمات الصناعية، والتعاون البيئي، والاستثمار التكنولوجي، والعمليات الفضائية، والأعمال الدولية. وتعمل الشركة على بناء نظام خدمات شامل ومتعدد الأوجه يغطي دورة حياة شركات التكنولوجيا بأكملها، مما يعزز التكامل العميق بين الابتكار التكنولوجي والتنمية الصناعية في منطقة هايديان، ويسعى إلى تهيئة بيئة مثالية لتطوير إنتاجية عالية الجودة، ويسهم في بناء مجمعات علمية وتكنولوجية عالمية المستوى.
دعم الحدث
امسح رمز الاستجابة السريعة (QR) ولاحظ "AI Compiler" للانضمام إلى مجموعة الحدث
