HyperAIHyperAI
منذ 2 أشهر

شبكة عصبية متكررة للتصنيف النصي مع التعلم متعدد المهام

Pengfei Liu; Xipeng Qiu; Xuanjing Huang
شبكة عصبية متكررة للتصنيف النصي مع التعلم متعدد المهام
الملخص

حققت الطرق المستندة إلى الشبكات العصبية تقدماً كبيراً في مجموعة متنوعة من مهام معالجة اللغة الطبيعية. ومع ذلك، في معظم الأعمال السابقة، تم تعلم النماذج على أساس أهداف إشرافية خاصة بمهمة واحدة، والتي غالباً ما تعاني من نقص في بيانات التدريب. في هذا البحث، نستخدم إطار التعلم متعدد المهام لتعلم مشترك عبر عدة مهام ذات صلة. استناداً إلى الشبكة العصبية المتكررة (Recurrent Neural Network)، نقترح ثلاثة آليات مختلفة لمشاركة المعلومات لنمذجة النص باستخدام طبقات خاصة بالمهمة وطبقات مشتركة. يتم تدريب الشبكة الكاملة بشكل مشترك على جميع هذه المهام. أظهرت التجارب على أربع مهام تصنيف نص قياسية أن النماذج المقترحة يمكنها تحسين أداء مهمة بمساعدة المهام الأخرى ذات الصلة.

شبكة عصبية متكررة للتصنيف النصي مع التعلم متعدد المهام | أحدث الأوراق البحثية | HyperAI