HyperAIHyperAI
منذ 11 أيام

الشبكات العصبية التلافيفية المتكررة لتصنيف النص

{Jun Zhao, Kang Liu, Liheng Xu, Siwei Lai}
الملخص

تصنيف النص هو مهمة أساسية في العديد من التطبيقات المتعلقة باللغة الطبيعية (NLP). غالبًا ما تعتمد النماذج التقليدية لتصنيف النص على عدد كبير من الميزات المصممة يدويًا، مثل القواميس، وقواعد المعرفة، والنووية الشجرية الخاصة. بخلاف الأساليب التقليدية، نقدم في هذا العمل شبكة عصبية متكررة تلافيفية لتصنيف النص دون الحاجة إلى ميزات مصممة يدويًا. في نموذجنا، نطبق بنية متكررة لالتقاط المعلومات السياقية قدر الإمكان أثناء تعلم تمثيلات الكلمات، مما قد يؤدي إلى تقليل الضوضاء بشكل ملحوظ مقارنة بالشبكات العصبية التقليدية القائمة على النافذة. كما نستخدم طبقة تجميع أقصى (max-pooling) تُحدد تلقائيًا الكلمات التي تؤدي دورًا محوريًا في تصنيف النص، بهدف استخلاص المكونات الأساسية في النص. أجرينا تجارب على أربع مجموعات بيانات شائعة الاستخدام. أظهرت النتائج التجريبية أن الطريقة المقترحة تتفوق على أفضل الطرق الحالية على عدة مجموعات بيانات، وبشكل خاص على مجموعات البيانات على مستوى المستند (document-level).

الشبكات العصبية التلافيفية المتكررة لتصنيف النص | أحدث الأوراق البحثية | HyperAI