HyperAIHyperAI

Command Palette

Search for a command to run...

SplitEE: الخروج المبكر في الشبكات العصبية العميقة مع الحوسبة المنقسمة

Divya J. Bajpai; Vivek K. Trivedi; Sohan L. Yadav; Manjesh K. Hanawal

الملخص

لقد لفتت الشبكات العصبية العميقة (DNNs) الانتباه بسبب أدائها المتميز في مهام مختلفة. ومع ذلك، فإن تنفيذ شبكات DNNs الكاملة في الأجهزة ذات الموارد المحدودة (مثل أجهزة الحواف، الهواتف المحمولة، وأجهزة إنترنت الأشياء) يواجه صعوبات بسبب حجمها الكبير. لحل هذه المشكلة، يتم النظر في عدة نهج، مثل تفويض جزء من الحسابات إلى السحابة لإتمام الاستدلال النهائي (الحساب المنقسم) أو تنفيذ الاستدلال في طبقة وسيطة دون المرور عبر جميع الطبقات (المخارج المبكرة). في هذا البحث، نقترح دمج كلا النهجين باستخدام المخارج المبكرة في الحساب المنقسم. في نهجنا، نحدد حتى أي عمق من حسابات DNNs سيتم تنفيذه على الجهاز (طبقة التقسيم) وما إذا كان يمكن للمثال الخروج من هذه الطبقة أو يحتاج إلى التفويض. تعتمد القرارات على مزيج موزون من الدقة والتكلفة الحاسوبية والتكلفة التواصلية. لقد طورنا خوارزمية تُسمى SplitEE لتعلم سياسة مثلى. بما أن شبكات DNNs التي تم تدريبها مسبقًا غالبًا ما يتم تنفيذها في مجالات جديدة حيث قد تكون الحقائق الأرضية غير متاحة وتصل العينات بطريقة بث مستمر، فإن SplitEE يعمل في إعداد عبر الإنترنت وغير مشهود. قمنا بأداء تجارب واسعة على خمسة مجموعات بيانات مختلفة. يحقق SplitEE تخفيضًا كبيرًا في التكلفة (أكثر من 50٪) مع انخفاض طفيف في الدقة (أقل من 2٪) بالمقارنة مع حالة استدلال جميع العينات عند الطبقة النهائية. الرمز المصدر المعامل هو متاح على الرابط \url{https://anonymous.4open.science/r/SplitEE_M-B989/README.md}.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp