HyperAIHyperAI
منذ 9 أيام

التعلم من خبراء متعددين: التدريب المستوحى من المعرفة ذاتية التنظيم للتصنيف الطويل الذيل

Liuyu Xiang, Guiguang Ding, Jungong Han
التعلم من خبراء متعددين: التدريب المستوحى من المعرفة ذاتية التنظيم للتصنيف الطويل الذيل
الملخص

في السيناريوهات الواقعية، تميل البيانات إلى أن تُظهر توزيعًا طويل الذيل (Long-tailed Distribution)، مما يزيد من صعوبة تدريب الشبكات العميقة. في هذا البحث، نقترح إطارًا جديدًا للانتقال المعرفي التلقائي يُسمى "التعلم من خبراء متعددين" (Learning From Multiple Experts - LFME). يستمد هذا النهج إلهامه من الملاحظة التي تشير إلى أن الشبكات التي تم تدريبها على مجموعات فرعية أقل تحيزًا من التوزيع تُظهر أداءً أفضل مقارنةً بنسخها التي تم تدريبها بشكل مشترك. نشير إلى هذه النماذج باسم "الخبراء" (Experts)، وينطوي الإطار المُقترح LFME على تجميع المعرفة من عدة "خبراء" لتعلم نموذج طالب موحد. وبشكل خاص، يشمل الإطار المُقترح مستويين من خطط التعلم التكيفية: اختيار الخبراء التلقائي (Self-paced Expert Selection) وتحديد الأمثلة وفق منهجية منهجية تدريسية (Curriculum Instance Selection)، بحيث يتم نقل المعرفة بشكل تكيفي إلى "الطالب". أجرينا تجارب واسعة وبيّنّا أن طريقة我们的 تُحقق أداءً متفوقًا مقارنةً بالأساليب الحالية الأفضل. كما أظهرنا أن طريقة我们的 يمكن دمجها بسهولة في الخوارزميات الحديثة لتصنيف التوزيع طويل الذيل لتحقيق تحسينات إضافية.

التعلم من خبراء متعددين: التدريب المستوحى من المعرفة ذاتية التنظيم للتصنيف الطويل الذيل | أحدث الأوراق البحثية | HyperAI