منذ 2 أشهر
شبكة عصبية متكررة للتصنيف النصي مع التعلم متعدد المهام
Pengfei Liu; Xipeng Qiu; Xuanjing Huang

الملخص
حققت الطرق المستندة إلى الشبكات العصبية تقدماً كبيراً في مجموعة متنوعة من مهام معالجة اللغة الطبيعية. ومع ذلك، في معظم الأعمال السابقة، تم تعلم النماذج على أساس أهداف إشرافية خاصة بمهمة واحدة، والتي غالباً ما تعاني من نقص في بيانات التدريب. في هذا البحث، نستخدم إطار التعلم متعدد المهام لتعلم مشترك عبر عدة مهام ذات صلة. استناداً إلى الشبكة العصبية المتكررة (Recurrent Neural Network)، نقترح ثلاثة آليات مختلفة لمشاركة المعلومات لنمذجة النص باستخدام طبقات خاصة بالمهمة وطبقات مشتركة. يتم تدريب الشبكة الكاملة بشكل مشترك على جميع هذه المهام. أظهرت التجارب على أربع مهام تصنيف نص قياسية أن النماذج المقترحة يمكنها تحسين أداء مهمة بمساعدة المهام الأخرى ذات الصلة.