Command Palette
Search for a command to run...
التعلم المبكر المتماسك: عرقلة حفظ التسميات الضوضائية
التعلم المبكر المتماسك: عرقلة حفظ التسميات الضوضائية
Yi Chang ZongYuan Ge Nannan Wang Chen Gong Bo Han Tongliang Liu Xiaobo Xia
الملخص
تُظهر ظواهر الحفظ في الشبكات العميقة أن هذه الشبكات تُحفِظ أولاً بيانات التدريب ذات التسميات النظيفة، ثم تُحفِظ البيانات ذات التسميات المُشوَّشة. وبالتالي، يمكن استغلال طريقة الإيقاف المبكر في التعلم باستخدام تسميات مُشوَّشة. ومع ذلك، فإن الآثار الجانبية الناتجة عن التسميات المُشوَّشة تؤثر على عملية حفظ التسميات النظيفة قبل حدوث الإيقاف المبكر. في هذه الورقة، مستوحاة من فرضية تذكرة اليانصيب التي تُظهر أن جزءًا جزئيًا فقط من المعاملات يكون مهمًا للعامة، نجد أن جزءًا جزئيًا فقط من المعاملات يكون مهمًا لملاءمة التسميات النظيفة والتحسن في الأداء العام، ونسميها المعاملات الحرجة؛ في حين أن المعاملات الأخرى تميل إلى ملاءمة التسميات المُشوَّشة ولا تُظهر أداءً عامًا جيدًا، ونسميها المعاملات غير الحرجة. استنادًا إلى هذا التمييز، نقترح طريقة التعلم المُقاوم المبكر لتقليل الآثار الجانبية الناتجة عن التسميات المُشوَّشة قبل الإيقاف المبكر، وبالتالي تعزيز حفظ التسميات النظيفة. بشكل محدد، في كل تكرار، نقسم جميع المعاملات إلى معاملات حرجية وغير حرجية، ثم نطبّق قواعد تحديث مختلفة لكل نوع من المعاملات. أظهرت تجارب واسعة على مجموعات بيانات معيارية مُحاكاة وبيانات واقعية ذات تسميات مُشوَّشة تفوق الطريقة المقترحة على أفضل الطرق الحالية في التعلم من تسميات مُشوَّشة.