شبكة انتباه مشتركة مع تضمين التسمية للتصنيف النصي

تركز معظم الطرق الحالية لتصنيف النصوص على استخراج تمثيل نصي مميز للغاية، وهو ما يُعد غالبًا غير فعّال من حيث الحوسبة. وللتخفيف من هذه المشكلة، تم اقتراح إطار عمل تضمين التسميات (label embedding) الذي يعتمد على الانتباه من التسمية نحو النص (label-to-text attention)، والذي يستخدم مباشرةً معلومات التسمية لبناء تمثيل نصي، مما يُحسّن كفاءة تصنيف النصوص. وعلى الرغم من النتائج الواعدة التي حققتها هذه الطرق، لا يزال هناك مجال واسع لاستكشاف كيفية استغلال معلومات التسمية بشكل أكثر فعالية. في هذا البحث، نسعى إلى استغلال معلومات التسمية من خلال بناء تمثيل تسمية مُنتبه للنص (text-attended label representation) باستخدام انتباه من النص نحو التسمية (text-to-label attention). ولتحقيق ذلك، نقترح شبكة تعاونية مع تضمين التسميات (Coattention Network with Label Embedding، اختصارًا CNLE)، التي تقوم بتشفير النص والتسميات معًا في تمثيلات متبادلة الانتباه. وبهذا، يصبح النموذج قادرًا على التركيز على الأجزاء ذات الصلة في كل من النص والتسمية. تُظهر التجارب أن منهجنا يحقق نتائج تنافسية مقارنةً بالطرق الأفضل في المجال السابقة على 7 معايير تصنيف متعدد الفئات و2 معيار تصنيف متعدد التسميات.