HyperAIHyperAI

Command Palette

Search for a command to run...

تحسين التعلم المستخلص للمقاييس في عد الحشود على جهاز إنترنت الأشياء

Richard O. Sinnott Zuo Huang

الملخص

العد اليدوي للحشود في المشكلات الواقعية أمر مستحيل أو يؤدي إلى تقديرات خاطئة بشكل كبير. وتم تطبيق مجال التعلم العميق لمعالجة هذه المشكلة. يُعد عد الحشود مهمة مكلفة من حيث الحوسبة، لذا فإن العديد من نماذج عد الحشود تستخدم شبكات عصبية متعددة الطبقات عميقة (CNN) ذات حجم كبير لتحقيق دقة أعلى. لكن هذا يأتي على حساب الأداء وسرعة الاستنتاج، ما يجعل هذه النهج صعبة التطبيق في البيئات الواقعية، مثل الأجهزة المتصلة بالإنترنت (IoT). لحل هذه المشكلة، يُستخدم أحد الطرق تقليل حجم النماذج باستخدام تقنيات التقليم والكمّية (pruning and quantization) أو استخدام هياكل نماذج خفيفة الوزن (lightweight model backbones). ومع ذلك، فإن هذه الأساليب غالبًا ما تؤدي إلى فقدان كبير في الدقة. وللتعامل مع هذه المشكلة، استكشفت بعض الدراسات أساليب نقل المعرفة (knowledge distillation) لاستخراج المعلومات المفيدة من النماذج الكبيرة المتطورة (النموذج المعلم) لقيادة أو تدريب نماذج أصغر (النموذج الطالب). لكن تواجه أساليب نقل المعرفة مشكلة فقدان المعلومات الناتجة عن "محولات التلميحات" (hint-transformers). علاوة على ذلك، قد يكون للنموذج المعلم تأثير سلبي على النموذج الطالب. في هذا العمل، نقترح طريقة تعتمد على نقل المعرفة تستخدم تلميحات مُحوَّلة ذاتيًا ووظائف خسارة تتجاهل القيم الشاذة (outliers) لمعالجة مهام عد الحشود الواقعية والصعبة. وباستخدام نهجنا، حققنا MAE قدره 77.24 وMSE قدره 276.17 باستخدام مجموعة اختبار JHU-CROWD++ [1]. ويُعد هذا الأداء مماثلًا لأفضل النماذج العميقة المتطورة في عد الحشود، لكن بحجم وتعقيد نموذج أصلي يقل كثيرًا، مما يجعل الحل مناسبًا للأجهزة المتصلة بالإنترنت (IoT). يتوفر الشفرة المصدرية على الرابط: https://github.com/huangzuo/effcc_distilled.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
تحسين التعلم المستخلص للمقاييس في عد الحشود على جهاز إنترنت الأشياء | مستندات | HyperAI