PocketNet: شبكة التعرف على الوجه خفيفة الوزن للغاية باستخدام بحث معماري عصبي وتقطير المعرفة متعدد الخطوات

لقد أصبحت الشبكات العصبية العميقة بسرعة الطريقة الرئيسية للاعتراف بالوجه (FR). ومع ذلك، فإن هذا يحد من نشر مثل هذه النماذج التي تحتوي على عدد ضخم للغاية من المعلمات في الأجهزة المدمجة والأجهزة ذات المواصفات المنخفضة. في هذا العمل، نقدم حلًا خفيف الوزن ودقيقًا للغاية للاعتراف بالوجه، وهو ما نسميه PocketNet. نستفيد من البحث عن هندسة الشبكة العصبية لتطوير عائلة جديدة من الهياكل الخفيفة الوزن والمخصصة للوجه. بالإضافة إلى ذلك، نقترح منهجية تدريب جديدة تعتمد على تقنية التقطير المعرفي (KD)، وهي التقطير المعرفي متعدد الخطوات، حيث يتم تقطير المعرفة من النموذج المعلم إلى النموذج الطالب في مراحل مختلفة من نضج التدريب. نقوم بدراسة تحليلية مفصلة تثبت كلًا من صحة استخدام بحث هندسة الشبكة العصبية (NAS) للمهمة الخاصة بالاعتراف بالوجه بدلاً من تصنيف الكائنات بشكل عام، ومزايا تقنيتنا المقترحة للتقطير المعرفي متعدد الخطوات. نقدم تقييمًا تجريبيًا شاملًا ومقارنات مع أحدث النماذج الضيقة للاعتراف بالوجه (SOTA) على تسعة مقاييس مختلفة، بما في ذلك مقاييس التقييم على نطاق واسع مثل IJB-B، IJB-C وميجا فاس. لقد حققت PocketNets باستمرار تحسينات في أداء SOTA للاعتراف بالوجه على تسعة مقاييس رئيسية عند النظر إلى نفس مستوى ضيق النموذج. وبـ 0.92 مليون معلمة، حقق شبكي الأصغر PocketNetS-128 نتائج تنافسية للغاية مقارنة بأحدث النماذج الضيقة SOTA التي تحتوي على ما يصل إلى 4 ملايين معلمة.