HyperAIHyperAI

Command Palette

Search for a command to run...

شبكة انتباه مشتركة مع تضمين التسمية للتصنيف النصي

Qing Du Junyi Cao Lizhao Liu Minqian Liu

الملخص

تركز معظم الطرق الحالية لتصنيف النصوص على استخراج تمثيل نصي مميز للغاية، وهو ما يُعد غالبًا غير فعّال من حيث الحوسبة. وللتخفيف من هذه المشكلة، تم اقتراح إطار عمل تضمين التسميات (label embedding) الذي يعتمد على الانتباه من التسمية نحو النص (label-to-text attention)، والذي يستخدم مباشرةً معلومات التسمية لبناء تمثيل نصي، مما يُحسّن كفاءة تصنيف النصوص. وعلى الرغم من النتائج الواعدة التي حققتها هذه الطرق، لا يزال هناك مجال واسع لاستكشاف كيفية استغلال معلومات التسمية بشكل أكثر فعالية. في هذا البحث، نسعى إلى استغلال معلومات التسمية من خلال بناء تمثيل تسمية مُنتبه للنص (text-attended label representation) باستخدام انتباه من النص نحو التسمية (text-to-label attention). ولتحقيق ذلك، نقترح شبكة تعاونية مع تضمين التسميات (Coattention Network with Label Embedding، اختصارًا CNLE)، التي تقوم بتشفير النص والتسميات معًا في تمثيلات متبادلة الانتباه. وبهذا، يصبح النموذج قادرًا على التركيز على الأجزاء ذات الصلة في كل من النص والتسمية. تُظهر التجارب أن منهجنا يحقق نتائج تنافسية مقارنةً بالطرق الأفضل في المجال السابقة على 7 معايير تصنيف متعدد الفئات و2 معيار تصنيف متعدد التسميات.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
شبكة انتباه مشتركة مع تضمين التسمية للتصنيف النصي | مستندات | HyperAI