HyperAIHyperAI

Command Palette

Search for a command to run...

PackNet: إضافة مهام متعددة إلى شبكة واحدة من خلال تقليم تكراري

Arun Mallya Svetlana Lazebnik

الملخص

يقدم هذا البحث طريقة لإضافة مهام متعددة إلى شبكة عصبية عميقة واحدة مع تجنب النسيان الكارثي (catastrophic forgetting). مستوحى من تقنيات تقليم الشبكات (network pruning)، نستغل الفائض في شبكات العمق الكبيرة لتحرير المعلمات التي يمكن استخدامها بعد ذلك لتعلم مهام جديدة. من خلال أداء التقليم التكراري وإعادة تدريب الشبكة، نتمكن من تسلسُل "حزم" المهام المتعددة داخل شبكة واحدة مع ضمان انخفاض بسيط في الأداء وزيادة طفيفة في حجم التخزين. على عكس الأعمال السابقة التي تستعمل خسائر وكيلة للحفاظ على الدقة في المهام القديمة، فإننا نقوم دائمًا بتحسين الأداء للمهم الحالي. نجري تجارب واسعة على مجموعة متنوعة من هياكل الشبكات وأكبر قواعد البيانات، ونلاحظ مقاومة أفضل بكثير ضد النسيان الكارثي مقارنة بالأعمال السابقة. وبشكل خاص، نحن قادرون على إضافة ثلاث مهام تصنيف دقيقة إلى شبكة VGG-16 مدربة على ImageNet وتحقيق دقة قريبة من تلك التي يتم الحصول عليها من شبكات مدربة بشكل منفصل لكل مهم. الرمز البرمجي متاح على الرابط: https://github.com/arunmallya/packnet


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp