HyperAIHyperAI
منذ 8 أيام

Feather: حل أنيق لتكاثف الشبكات العصبية العميقة الفعّال

Athanasios Glentis Georgoulakis, George Retsinas, Petros Maragos
Feather: حل أنيق لتكاثف الشبكات العصبية العميقة الفعّال
الملخص

التجريد الشبكي العصبي هو طريقة تزداد شعبيتها بشكل متزايد لإنتاج نماذج مدمجة وفعالة، تتناسب مع البيئات ذات الموارد المحدودة، مع الحفاظ على الأداء العالي. في حين يمكن إجراء التجريد باستخدام عملية تدريب متعددة الدورات وضبط دقيق، فإن الاتجاه الحديث يتجه إلى دمج عملية التخفيف (التجريد) خلال المسار القياسي للتدريب. ولتحقيق ذلك، نقدم "فيثر" (Feather)، وحدة تدريب شفافة فعّالة تعتمد على مُقدّر الخط المستقيم (Straight-Through Estimator) كعنصر أساسي، مصحوبة بعامل تجزئة جديد وتقنية لتعديل التدرجات، مما يمكّن من أداء تجريد قوي ومستقر دون الحاجة إلى تهيئة إضافية. وقد أثبتت "فيثر" فعاليتها ومرونتها من خلال تجربة متعددة المعمارية على مجموعة بيانات CIFAR، كما حققت أداءً رائدًا على مستوى دقة التحقق (Top-1) على مجموعة ImageNet باستخدام بنية ResNet-50، متفوقةً على الطرق الحالية، بما في ذلك الطرق الأكثر تعقيدًا وأكثر استهلاكًا للموارد الحاسوبية، بفارق ملحوظ. يُتاح الكود المصدر مفتوحًا للجمهور عبر الرابط: https://github.com/athglentis/feather.

Feather: حل أنيق لتكاثف الشبكات العصبية العميقة الفعّال | أحدث الأوراق البحثية | HyperAI