SplitEE: الخروج المبكر في الشبكات العصبية العميقة مع الحوسبة المنقسمة

لقد لفتت الشبكات العصبية العميقة (DNNs) الانتباه بسبب أدائها المتميز في مهام مختلفة. ومع ذلك، فإن تنفيذ شبكات DNNs الكاملة في الأجهزة ذات الموارد المحدودة (مثل أجهزة الحواف، الهواتف المحمولة، وأجهزة إنترنت الأشياء) يواجه صعوبات بسبب حجمها الكبير. لحل هذه المشكلة، يتم النظر في عدة نهج، مثل تفويض جزء من الحسابات إلى السحابة لإتمام الاستدلال النهائي (الحساب المنقسم) أو تنفيذ الاستدلال في طبقة وسيطة دون المرور عبر جميع الطبقات (المخارج المبكرة). في هذا البحث، نقترح دمج كلا النهجين باستخدام المخارج المبكرة في الحساب المنقسم. في نهجنا، نحدد حتى أي عمق من حسابات DNNs سيتم تنفيذه على الجهاز (طبقة التقسيم) وما إذا كان يمكن للمثال الخروج من هذه الطبقة أو يحتاج إلى التفويض. تعتمد القرارات على مزيج موزون من الدقة والتكلفة الحاسوبية والتكلفة التواصلية. لقد طورنا خوارزمية تُسمى SplitEE لتعلم سياسة مثلى. بما أن شبكات DNNs التي تم تدريبها مسبقًا غالبًا ما يتم تنفيذها في مجالات جديدة حيث قد تكون الحقائق الأرضية غير متاحة وتصل العينات بطريقة بث مستمر، فإن SplitEE يعمل في إعداد عبر الإنترنت وغير مشهود. قمنا بأداء تجارب واسعة على خمسة مجموعات بيانات مختلفة. يحقق SplitEE تخفيضًا كبيرًا في التكلفة (أكثر من 50٪) مع انخفاض طفيف في الدقة (أقل من 2٪) بالمقارنة مع حالة استدلال جميع العينات عند الطبقة النهائية. الرمز المصدر المعامل هو متاح على الرابط \url{https://anonymous.4open.science/r/SplitEE_M-B989/README.md}.