HyperAIHyperAI

Command Palette

Search for a command to run...

التعلم من خبراء متعددين: التدريب المستوحى من المعرفة ذاتية التنظيم للتصنيف الطويل الذيل

Liuyu Xiang Guiguang Ding Jungong Han

الملخص

في السيناريوهات الواقعية، تميل البيانات إلى أن تُظهر توزيعًا طويل الذيل (Long-tailed Distribution)، مما يزيد من صعوبة تدريب الشبكات العميقة. في هذا البحث، نقترح إطارًا جديدًا للانتقال المعرفي التلقائي يُسمى "التعلم من خبراء متعددين" (Learning From Multiple Experts - LFME). يستمد هذا النهج إلهامه من الملاحظة التي تشير إلى أن الشبكات التي تم تدريبها على مجموعات فرعية أقل تحيزًا من التوزيع تُظهر أداءً أفضل مقارنةً بنسخها التي تم تدريبها بشكل مشترك. نشير إلى هذه النماذج باسم "الخبراء" (Experts)، وينطوي الإطار المُقترح LFME على تجميع المعرفة من عدة "خبراء" لتعلم نموذج طالب موحد. وبشكل خاص، يشمل الإطار المُقترح مستويين من خطط التعلم التكيفية: اختيار الخبراء التلقائي (Self-paced Expert Selection) وتحديد الأمثلة وفق منهجية منهجية تدريسية (Curriculum Instance Selection)، بحيث يتم نقل المعرفة بشكل تكيفي إلى "الطالب". أجرينا تجارب واسعة وبيّنّا أن طريقة我们的 تُحقق أداءً متفوقًا مقارنةً بالأساليب الحالية الأفضل. كما أظهرنا أن طريقة我们的 يمكن دمجها بسهولة في الخوارزميات الحديثة لتصنيف التوزيع طويل الذيل لتحقيق تحسينات إضافية.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
التعلم من خبراء متعددين: التدريب المستوحى من المعرفة ذاتية التنظيم للتصنيف الطويل الذيل | مستندات | HyperAI