HyperAIHyperAI
منذ 18 أيام

نموذج Transformer-Capsule للكشف عن النية

{Michał Lew, Aleksander Obuchowski}
الملخص

تميّز التعرف على النية يعد من أكثر المهام أهمية في أنظمة معالجة اللغة الطبيعية (NLU)، التي أصبحت حاليًا ذات أهمية بالغة في تصميم المحادثات الذكية. نقترح منهجًا جديدًا للتعرف على النية يعتمد على دمج معمارية الترانسفورمر مع الشبكات الكبسولة (Capsule Networks). تُظهر نتائجنا أن هذه البنية المُدمَجة تتفوّق على النماذج الأصلية للشبكات الكبسولية في أنظمة NLU، وتحقق نتائج متميزة على مجموعات بيانات مثل ATIS وAskUbuntu وWebApp.