1 أغسطساختتمت بنجاح فعاليات الصالون التقني التاسع لمترجم الذكاء الاصطناعي، الذي استضافته شركة HyperAI، في منطقة تشونغقوانتسون ببكين.حظي هذا الصالون بشعبية كبيرة كعادته، حيث قدم خبراء الصناعة عروضًا ثاقبة. وجمع قادة تقنيين من شركات ومؤسسات بحثية رائدة، مثل أكاديمية بكين للذكاء الاصطناعي، وفريق TileRT، وشركة Tencent، وشركة Huawei Ascend، وشركة Zhiyuan Innovation، لتبادل رؤى معمقة حول أحدث التقنيات، والتحسينات الأساسية، وأنظمة المصادر المفتوحة، وسيناريوهات التطبيق في مجال تجميع الذكاء الاصطناعي. وقد وفر هذا الصالون تجربة تقنية ثرية ومفيدة للمطورين والمهنيين الحاضرين.

في الموقع،قدم ما لينغشياو، وهو عضو أساسي في فريق TileRT، عرضًا متعمقًا حول أحدث التطورات في TileRT، بعنوان "السرعة هي الذكاء: الاستكشاف الحسابي والتصميم التعاوني لاستنتاج النماذج الكبيرة ذات زمن الاستجابة المنخفض للغاية".من تطور مترجمات الذكاء الاصطناعي وبنية وقت التشغيل إلى التصميم المشترك لنظام النموذج، بالإضافة إلى نتائج التكامل والحالات العملية مع العديد من الشركات الرائدة والمجتمعات التكنولوجية مثل Z.AI و Xiaomi MIMO و vLLM، يقدم العرض تفاصيل حزمة البرامج لحساب النماذج الكبيرة بزمن استجابة منخفض للغاية.

قامت شركة HyperAI بتجميع وتلخيص الخطاب دون تغيير معناه الأصلي. فيما يلي نص الخطاب.

أصبحت سرعة الاستدلال ميزة تنافسية أساسية في سيناريوهات الذكاء الاصطناعي ذات القيمة العالية.

ظهر برنامج ChatGPT في أواخر عام 2022 وأوائل عام 2023، مُظهِرًا قدراتٍ مذهلة. مع ذلك، وبالنظر إلى الماضي، فقد أظهرت النماذج الأولى تطبيقاتٍ في مجالاتٍ مثل الدردشة والتواصل الاجتماعي، وكانت قيمتها الفعلية أقل بكثير من تكلفتها الحسابية. كان المطلوب من النماذج الكبيرة فقط أن تُواكب سرعة القراءة البشرية. في ذلك الوقت، كان التركيز مُنصبًّا على إنتاجية النظام الإجمالية، وليس على سرعة إخراج النموذج.

منذ نهاية عام 2025 وحتى الآن، وفي أقل من عام، كشف ظهور برامج البرمجة الذكية مثل "كلود كود" عن إمكانيات كامنة هائلة كامنة وراء النماذج واسعة النطاق، مثل مساعدة الأفراد فعلياً على تحسين إنتاجيتهم. في هذه الحالة، وبالمقارنة بتكلفة قوة الحوسبة، فقد حققت قيمة عملية أعلى. لذلك،لقد شهدنا مؤخراً ارتفاعاً كبيراً في الطلب على قوة الحوسبة، وهو ما يعكس بشكل مباشر الحاجة إلى إنتاجية عالية.

بالنظر إلى المستقبل بناءً على هذا التوجه التطويري، ومع استمرار نمو قدرات النماذج، ستشارك هذه النماذج حتماً في المزيد من المهام المؤتمتة، مثل مصانع الذكاء الاصطناعي، واتخاذ القرارات الكمية، ومشاريع إدارة المخاطر في الوقت الفعلي. في هذا السيناريو، سيكون ناتج النموذج هو النموذج نفسه، مما يُنشئ سير عمل مؤتمتًا بالذكاء الاصطناعي. في هذه المرحلة،كلما زادت سرعة تشغيل النموذج، زادت كفاءته. وستصبح سرعة النموذج القصوى عاملاً أساسياً في تحديد الإنتاجية وتجربة المستخدم.

وتؤكد آخر أخبار الصناعة هذه التكهنات تباعاً:

* في أواخر عام 2025، استحوذت شركة Nvidia على شركة Grop مقابل مبلغ ضخم لتوسيع قدراتها على الاستدلال عالي السرعة؛

* في فبراير 2026، أطلقت شركة أنثروبيك كلود فاست، وهي نسخة عالية السرعة من هذه التقنية.

* في نفس الشهر، أطلقت OpenAI، بالتعاون مع Cerebras، GPT-Codex-Spark؛

* في شهر مايو، أعلنت شركة Cerebras أنها حققت سرعة استدلال تقارب 1000 عملية في الثانية لنموذج على مستوى 1 تيرابايت من خلال تقنية رقاقة على مستوى الرقاقة.

* بالإضافة إلى ذلك، قبل أسبوعين أو ثلاثة أسابيع فقط، دخلت OpenAI في شراكة مع Cerebras لتمكين نموذجها الرائد الأكثر تقدمًا، GPT-5.6-Sol، من تقديم خدمة استدلال عالية السرعة تبلغ 750 معاملة في الثانية.

يُعدّ توسيع نطاق وقت الاختبار (TTS) في الواقع الطريقة الرئيسية لتحسين أداء النموذج.بافتراض فترة زمنية محددة، ولتكن 10 ثوانٍ، فإن خدمة استدلال النماذج البطيئة بسرعة 50 رمزًا/ثانية لا يمكنها توليد سوى 500 رمز فكري. ولكن، إذا زادت سرعة الاستدلال من 50 رمزًا إلى 1000 رمز، فستولد 10000 رمز فكري. بلا شك، ضمن نفس الفترة الزمنية، سيؤدي الاستدلال الأسرع إلى ذكاء أفضل للنموذج.

لذا، قد تتساءل، هناك العديد من الطرق لتنفيذ تحويل النص إلى كلام، مثل طريقة "أفضل من N"، التي يمكنها تحقيق ذكاء أقوى بمجرد المعالجة الدفعية، فلماذا التركيز على السرعة؟ هذا يتطلب تحليل تحويل النص إلى كلام.بالنظر إلى الأمر من حيث العمق والعرض،على الرغم من أن مهام تحويل النص إلى كلام (TTS) قادرة على تحقيق أهدافها من خلال المعالجة الدفعية، إلا أن هذا النموذج يعمل بشكل تسلسلي من منظور سلسلة طويلة من الأفكار أو سلسلة من روابط تنفيذ الوكلاء. وهذا غير ممكن مع المعالجة الدفعية، ولا يمكن الوصول إلى عمق المعالجة التسلسلية إلا من خلال سرعة استدلال فائقة.

لنلقِ نظرة على مثال من مسار SWE-bench، وتحديدًا مثال من إحصائيات مسار SWE-smith. يُظهر مسار التنفيذ الفعلي أنه يُجري في المتوسط حوالي 30 خطوة لتنفيذ النموذج، مُولِّدًا 10,000 رمز. بسرعة 50 رمزًا/ثانية، سيستغرق هذا حوالي 200 ثانية، أو أكثر من 3 دقائق. مع ذلك، إذا زادت سرعة النموذج إلى 1000 رمز/ثانية، يُمكنه إكمال المهمة في 10 ثوانٍ فقط. ستكون هذه تجربة مختلفة تمامًا.في السرعات العادية، قد يتعرض الناس للمقاطعة بسبب وقت الانتظار، ولكن إذا استغرق الأمر بضع ثوانٍ فقط لإكماله، فسوف يختبرون عملية تفاعلية في الوقت الفعلي تمامًا.

بالإضافة إلى ذلك، دعونا ننظر إلى سيناريوهات أخرى. على سبيل المثال، يتطلب التداول الكمي عالي التردد عادةً ردود فعل في حدود 10 مللي ثانية تقريبًا، وقد تتطلب المكالمات الصوتية الفورية ردود فعل في حدود مئات مللي ثانية، وقد يتطلب التحكم في المخاطر المالية أيضًا ردود فعل في حدود ثوانٍ. لذلك، يتراوح وقت ردود الفعل في سيناريوهات التفاعل الفوري هذه تقريبًا بين بضع ثوانٍ و10 ثوانٍ. إذا لم يتم استيفاء هذه الحدود الزمنية، فلن يكون من الممكن تطبيق النموذج بشكل فعلي في هذه السيناريوهات.

لذلك، سندفع سرعة التفكير إلى أقصى حد ممكن.من ناحية، نأمل في تمكين المزيد من سيناريوهات التطبيق؛ ومن ناحية أخرى، نأمل أيضًا في تمكين توليد ذكاء نموذجي أكثر قوة.

تحقيق أقصى تحسين للسرعة من خلال النهج التعاوني للخوارزميات والأنظمة والأجهزة.

إذن، كيف نزيد من سرعة فك تشفير النموذج؟ في الواقع، يتم تحديد ذلك من خلال ثلاثة عوامل.أولها أداء الجهاز نفسه.وبإضافة قوة الحوسبة وعرض النطاق الترددي والترابط، فإنه يحدد الحد الأعلى لسرعة فك التشفير؛أما الأمر الثاني فهو كفاءة نظام البرمجيات.بمعنى آخر، كيفية تحقيق أقصى استفادة من الأداء الذي توفره الأجهزة؛ثالثًا، الخوارزمية.على سبيل المثال، من خلال تقليل الحساب والوصول إلى الذاكرة من خلال التكميم، أو باستخدام طرق مثل فك التشفير التخميني، يمكن توليد المزيد من الرموز من عملية حسابية أمامية واحدة.

لنلقِ نظرة أولاً على كفاءة النظام.انطلاقًا من المبادئ الأساسية، لا تزال هناك فجوة كبيرة بين السرعة الفعلية لاستنتاج النموذج والحد الأقصى النظري الذي توفره الأجهزة. ويعود ذلك إلى وجود تكاليف ثابتة أثناء التنفيذ، بالإضافة إلى الحساب نفسه، مثل بدء تشغيل النواة، والجدولة، والمزامنة، والاتصال. ومع استمرار تحسن أداء الأجهزة، تبرز هذه التكاليف بشكل متزايد، لتصبح تدريجيًا معوقات رئيسية للاستنتاج منخفض زمن الاستجابة.

توجد بالفعل العديد من التقنيات لتقليل هذه التكاليف الثابتة، مثل CUDA Graph وPDL. يقلل CUDA Graph بشكل أساسي من تكلفة تشغيل النواة، بينما يسمح PDL لنواتين بإنشاء التبعيات وخطوط المعالجة مسبقًا، ولكنه في جوهره لا يستطيع سوى تنفيذ تداخل خطوة واحدة. لتحقيق الأداء الأمثل، هذا غير كافٍ على الإطلاق. وللمضي قدمًا، نحتاج إلى تجاوز حدود التنفيذ التي تفرضها النواة نفسها، وزيادة لامركزية جدولة المهام.وهذا يسمح للحساب والوصول إلى الذاكرة والاتصال، والتي كانت في الأصل منفصلة بواسطة نوى مختلفة، بالتداخل بشكل كامل.

في الواقع، دمج النواة ليس مفهومًا جديدًا؛ فقد أُجريت العديد من الدراسات والأبحاث منذ عصر الشبكات العصبية العميقة. وقد أجرينا سابقًا سلسلة من الدراسات حول قضايا مثل جدولة العمليات المتقاطعة، وتوليد النواة، والوصول إلى الذاكرة، وتدفق التحكم الديناميكي، والحسابات منخفضة الدقة، وتقنية خطوط الأنابيب البرمجية، بما في ذلك Rammer وRoller وWelder وCocktailer وLadder وPipeThreader.تدريجياً، تم تطوير قدرة التجميع، بدءًا من تحسين مستوى الرسم البياني وصولاً إلى التنفيذ الدقيق على مستوى البلاطة.تم التحقق من صحتها في مختلف سيناريوهات الأجهزة والواقع العملي.

ومع ذلك، لا يمكن نقل هذه القدرات مباشرة إلى استدلال النماذج الكبيرة.بالمقارنة مع الشبكات العصبية العميقة التقليدية، فإن عصر التعلم الموجه بالتعلم يجلب معه ثلاثة تحديات جديدة:يؤدي تحسين أداء الأجهزة إلى إبراز التكاليف الثابتة مثل الجدولة والاتصال؛ كما أن توجيه MoE والحساب المتفرق وآليات فك التشفير التخميني تزيد من ديناميكية وقت التشغيل؛ ويؤدي توسيع حجم النموذج إلى زيادة شيوع التعاون بين البطاقات والأجهزة. لذلك، تحتاج أنظمة الترجمة الموجهة نحو LLM إلى التعامل مع التنفيذ الدقيق والجدولة الديناميكية والتعاون الموزع في آن واحد.

في مواجهة هذه التحديات،تتمثل الفكرة الأساسية لـ TileRT في عدم اعتبار النواة بمثابة الحدود الأساسية لجدولة البرامج، ولكن لكسر هذه الحدود بشكل أكبر، وتقسيم التنفيذ إلى مستوى أدق، وإعادة تنظيم الحساب والوصول إلى الذاكرة والاتصال من منظور عالمي.

لنلقِ نظرة أولاً على عملية جدولة الإطار الحالي. بالنسبة للنماذج الكبيرة، تُوصف عادةً بأنها رسم بياني للحسابات، ثم تُنشر على الأجهزة لتنفيذها على مستوى كل عملية (OP) ونواة (Kernel) على حدة. لكل نواة عملية بدء تشغيل وحساب ومزامنة خاصة بها، كما أن حدود النواة تحدّ من مساحة التداخل بين المراحل المختلفة.

يهدف TileRT تحديدًا إلى كسر هذا الحاجز. فمن خلال تقسيم العمليات الحسابية داخل النواة إلى مهام أدق على مستوى الوحدات، يمكن للبرمجيات إعادة ترتيب تسلسل التنفيذ عبر حدود النواة الحالية، مما يسمح ببدء العمليات الحسابية اللاحقة، وعمليات الوصول إلى الذاكرة، والاتصالات التي تلبي التبعيات بالفعل في وقت أبكر، وبالتالي تشكيل مسار معالجة أكثر كفاءة. باختصار، نحن لا ندمج ببساطة عدة نوى في نواة واحدة أكبر، بل نكسر قيود النواة على مساحة الجدولة، مما يحقق تداخلًا أكبر كان مستحيلاً سابقًا.

تستخدم TileRT دراسات حالة واقعية للتحقق من جدوى تقنيتها.

يقوم TileRT أولاً بتمثيل النموذج كرسم بياني لتدفق البيانات، ثم يُنشئ نواة مصغرة على مستوى البلاطة. بعد ذلك، يُجري عملية تجميع وجدولة دقيقة لإنشاء محرك التنفيذ. يُنسق هذا المحرك عمليات الحساب، والوصول إلى الذاكرة، والاتصال، ويُوزع المهام على وحدات الأجهزة المختلفة للاستفادة القصوى من أداء الجهاز.

باستخدام هذه المنهجية، تم التحقق من صحة TileRT بالفعل في خدمات الإنتاج الواقعية. في مايو من هذا العام، تعاونّا مع فريق Zhipu GLM لإطلاق خدمة الاستدلال عالية السرعة GLM-5.1-HighSpeed.وقد حققت سرعة إنتاجية تصل إلى 400 رمز/ثانية.من بين التحسينات النموذجية، تقنية الانتباه المتفرق لنموذج GLM-5.1. في عمليات المعالجة المتوازية التقليدية للموترات، تُنفذ وحدات معالجة رسومية مختلفة نفس المنطق الحسابي، بينما يقسم TileRT هذه العملية إلى وحدات معالجة رسومية غير متجانسة: تتولى وحدة معالجة رسومية واحدة مهمة الفهرسة المتفرقة، واختيار أفضل K عنصر، والتوجيه، بينما تتولى الوحدات السبع الأخرى مهامًا حسابية مكثفة مثل MLA والانتباه. كما تم دمج الاتصال والاختزال والمزامنة في مسار المعالجة على مستوى البلاطة. يتيح هذا للمراحل المختلفة اعتماد أساليب توسيع نطاق أكثر ملاءمة لخصائصها، مما يقلل من العمليات الحسابية الزائدة وفترات انتظار المزامنة. بدون MTP، تبلغ سرعة توليد التسلسلات القصيرة حوالي 300 رمز/ثانية، وللتسلسلات الطويلة حوالي 200 رمز/ثانية؛ ومع تفعيل MTP-3 ومتوسط طول استقبال يبلغ 3.2، يمكن أن تتجاوز سرعة توليد التسلسلات القصيرة 600 رمز/ثانية، والتسلسلات الطويلة حوالي 400 رمز/ثانية.

إذا أردنا سرعات أعلى، فنحن بحاجة أيضًا إلى تحسين كفاءة إخراج كل بايت من الرمز المميز.لتحسين معدل إخراج الرموز لكل بايت، هناك جانبان يجب مراعاتهما:من ناحية، نريد توليد المزيد من الرموز المميزة لكل خطوة، لذلك يمكننا استخدام MTP أو مخططات فك التشفير التخمينية الأكثر عدوانية مثل DFlash أو DSpark؛ من ناحية أخرى، يمكننا تقليل كمية البيانات المطلوبة لكل رمز مميز باستخدام بعض طرق التكميم لتقليل كمية البيانات.

في شهر يونيو، تعاونا مع فريق Xiaomi MiMo لتصميم النموذج والنظام بناءً على هذه الفكرة.فيما يتعلق بالتكميم، تُشكّل وحدة MoE Expert في MiMo-V2.5-Pro غالبية معلمات النموذج. لذا، يتم تكميم وحدة Expert فقط باستخدام FP4 QAT، بينما تحافظ الوحدات الأخرى على دقتها الأصلية. تُظهر الاختبارات المعيارية أن الأداء العام للنموذج المُكمّم قريب من أداء نموذج FP8 الأصلي، مع تقليل حجم النموذج وضغط الوصول إلى الذاكرة بشكل ملحوظ. بالنسبة لفك التشفير التخميني، يستخدم DFlash التنبؤ المتوازي على مستوى الكتلة، حيث يُولّد مجموعة من الرموز المرشحة في كل تمريرة أمامية، والتي يتم التحقق منها بشكل موحد بواسطة النموذج الرئيسي، مما يقلل من الحمل الزائد التسلسلي للصياغة التراجعية التلقائية التقليدية.

تُستخدم هذه النماذج لتحسين الأداء بشكل تعاوني مع النظام.حقق MiMo-V2.5-Pro-UltraSpeed في النهاية سرعة توليد تزيد عن 1000 رمز/ثانية لنماذج 1T على عقدة واحدة للأغراض العامة 8-GPU.والأهم من ذلك، أن هذه النتيجة لم تعتمد على رقائق الاستدلال المخصصة على مستوى الرقاقة أو غيرها، مما يُثبت أنه من خلال التعاون الكافي بين النموذج والنظام، يمكن لوحدات معالجة الرسومات العامة أن تتجاوز نطاق سرعة الاستدلال القصوى الذي كان متاحًا سابقًا فقط بواسطة أجهزة مخصصة. تُظهر هذه النتيجة أنه مع اقتراب أداء النظام تدريجيًا من حدود الأجهزة، فإن تحسينات السرعة الإضافية لم تعد مقتصرة على محرك الاستدلال نفسه، بل تتطلب تطورًا مشتركًا لبنية النموذج ونظام التجميع وأساليب تنفيذ الأجهزة.

بالطبع، لا يكفي مجرد السعي وراء سرعة فك تشفير فائقة. فخدمة النماذج واسعة النطاق القابلة للاستخدام تتطلب أيضًا واجهات برمجة تطبيقات متوافقة مع OpenAI، وجدولة الطلبات، وتخزين البادئات مؤقتًا، واستدعاءات الأدوات، وقدرات تشغيلية ناضجة. وإذا كان لا بد من إعادة بناء نظام الخدمة بالكامل لمجرد دمج محرك فك تشفير عالي السرعة، فإن تكاليف الهندسة ستكون باهظة للغاية. لذلك،لقد عقدنا شراكة مع مجتمع vLLM للسماح لـ TileRT بالتركيز على فك التشفير منخفض زمن الوصول مع الاستفادة من النظام البيئي الناضج لـ vLLM.

يُوفر فصل وظيفتي التعبئة المسبقة وفك التشفير أساسًا متينًا لهذا الدمج. فمع فصلهما، يُمكن أن يُصبح جانب فك التشفير مُحرك تنفيذ قابل للتوصيل. في حل TileRT وvLLM المُشترك، تستمر vLLM الأصلية في توفير وظائف التعبئة المسبقة، وجدولة الطلبات، والتعبئة المسبقة المُجزأة، وذاكرة التخزين المؤقت للبادئات، وواجهات برمجة التطبيقات للخدمات. ولا تدخل إلى مجموعة فك تشفير TileRT إلا الطلبات التي تتطلب سرعة عالية لتوليدها من قِبل مُستخدم واحد. وهذا يُحافظ على كامل إمكانيات نظام vLLM البيئي، مع توفير أداء فك التشفير فائق السرعة لـ TileRT.

في تطبيقها، تتصل TileRT بالكامل عبر واجهة الموصل المكشوفة لـ vLLM، دون الحاجة إلى أي تعديل أو إنشاء نسخة معدلة من vLLM، أو أي تدخل في وحدات العمل الداخلية الخاصة بها. تقوم طبقة التوجيه بتحديد الطلبات الحساسة للتأخير، ولا يقبل موصل TileRT سوى هذه الطلبات؛ أما الطلبات الأخرى فتتبع مسار معالجة vLLM الأصلي. يمكن لمجموعتي فك التشفير مشاركة خدمة التعبئة المسبقة لـ vLLM نفسها. يتم تسليم الحالة التي تولدها التعبئة المسبقة إلى عقدة فك التشفير المقابلة عبر محركات نقل مثل NIXL أو Mooncake، ويتم تنفيذها بالتوازي مع عمليات التعبئة المسبقة اللاحقة.

لذا، ضمن نفس عملية النشر، يمكن توجيه الطلبات الحساسة للتأخير، مثل طلبات الوكلاء في الوقت الفعلي والترميز التفاعلي، إلى TileRT؛ بينما تستمر معالجة الطلبات العادية التي تستهدف التزامن العالي والإنتاجية الإجمالية بواسطة محرك فك التشفير الأصلي vLLM. يوفر كلا المسارين نفس واجهة برمجة التطبيقات المتوافقة مع OpenAI، ولا يتطلب التبديل بين الخدمات سوى تعديل استراتيجية التوجيه.وهذا يُمكّن TileRT و vLLM من تشكيل بنية خدمة استدلال غير متجانسة متعايشة حقًا، حيث يستفيد كل منهما من نقاط قوته.

يتطور نظام TileRT البيئي تدريجياً.

يدعم TileRT حاليًا نماذج متعددة وعمليات نشر متعددة للنظام البيئي:

في نهاية العام الماضي، أصدرنا النموذج الأولي للمحول الخاص بـ DeepSeek v3.2، والذي يمكنه تحقيق سرعة استدلال تبلغ 500 TPS.

في شهر مايو من هذا العام، قمنا نحن وشركة Zhipu بإطلاق نسخة عالية السرعة من GLM-5.1، محققين خدمات استدلال تتراوح من 400 إلى 600 معاملة في الثانية؛

في يونيو من هذا العام، تعاونا مع شركة Xiaomi MIMO لتحقيق إنجاز بلغ 1000 عملية في الثانية لأول مرة لنموذج من مستوى 1 تيرابايت، محطمين بذلك الرقم القياسي العالمي لسرعة الاستدلال؛

بعد ذلك، عقدنا شراكة مع MIND LAB لإصدار أول منصة تدعم الاستدلال متعدد LoRa عالي السرعة، مما يتيح إنتاج واجهة المستخدم في الوقت الفعلي في غضون 5 ثوانٍ؛

وأخيرًا، بالتعاون مع مجتمع vLLM، قمنا بإصدار حل نشر منفصل غير متجانس ومتعايش، والذي لا يتطلب أي تعديلات ويدعم توافق النظام البيئي.

وأخيرًا، إليكم آخر التطورات في مجتمع Tile-AI. مجتمع Tile-AI هو نظام بيئي برمجي قمنا بإعادة تصميمه استنادًا إلى Tile، خصيصًا للنماذج الكبيرة وهياكل الأجهزة الجديدة، بما في ذلك لغة TileLang المعروفة. TileScale هو إطار عمل للبرمجة والتجميع مصمم للهياكل الموزعة، بما في ذلك هياكل النواة الموزعة داخل النطاق.يشمل ذلك أيضًا التوصيلات البينية بين الرقاقات، والتوصيلات بين الشرائح، والتوصيلات بين الأجهزة المتعددة. لقد قمنا بتوحيد وتجريد هذا الهيكل الموزع متعدد الطبقات في وصف Tile، وصممنا إطار عمل مناسبًا. TileRT هو محرك الاستدلال للسرعات الفائقة المذكورة أعلاه.

بالإضافة إلى ذلك، أطلقنا مؤخرًا TileFoundry وTileOPs. TileFoundry هو إطار عمل مدعوم بالذكاء الاصطناعي لتوليد عوامل التشغيل تلقائيًا، ومخرجاته هي TileOPs، وهي مكتبة عوامل تشغيل مكتوبة بلغة TileLang للنماذج الكبيرة. في الوقت نفسه، نحن على وشك إطلاق نموذج تحليل الأداء TileSight، المخصص أساسًا لنمذجة الأداء على مستوى البلاطات، والذي يوفر إرشادات لتحسين أداء البرامج على مستوى البلاطات وتحليل استكشاف البنية.