شبكات العصبونات الرسومية مع انتباه التكوين المتقاطع لمحompilers الأ텐سور

مع الاهتمام المتزايد مؤخرًا بشبكات العصبونات، أصبح هناك حاجة ملحة لتقديم حمولات الاستدلال بكفاءة عالية. يمكن تمثيل حمل استدلال شبكة عصبية كرسم بياني حاسوبي، حيث تكون العقد هي المشغلات التي تقوم بتحويل المصفوفات المتعددة الأبعاد. يمكن تبديل هذه المصفوفات و/أو تقسيمها بعدد كبير من الطرق التوافقية، مما قد يؤدي إلى تسريع الاستدلال في بعض التكوينات. نقترح نظام TGraph، وهو هندسة رسم بياني عصبي يسمح بالفحص للتكوينات السريعة للرسم البياني الحاسوبي المستهدف، وبالتالي يمثل مترجم مصفوفات ذكاء اصطناعي (AI) مقابل المترجمات التقليدية القائمة على الخوارزميات التجريبية. يحسن الحل المقترح متوسط معامل كندال $\tau$ عبر مجموعات التخطيط لـ TpuGraphs من 29.8٪ من الخط الأساسي الموثوق به إلى 67.4٪ في TGraph. نقدر أن الانبعاثات المحتملة لثاني أكسيد الكربون المرتبطة بعملنا تعادل أكثر من 50٪ من إجمالي انبعاثات المنازل في المناطق التي تستضيف مراكز البيانات الموجهة نحو الذكاء الاصطناعي.