HyperAIHyperAI
منذ 11 أيام

مُحلِّل AMR باستخدام رسم ليفي وانتباه غير متجانس

Han He, Jinho D. Choi
مُحلِّل AMR باستخدام رسم ليفي وانتباه غير متجانس
الملخص

بالإضافة إلى مشغلات ثنائي التأثير (biaffine decoders)، تم تكييف النماذج القائمة على المحولات (Transformers) بشكل فعّال لتحويل النص إلى الرسوم البيانية (text-to-graph transduction)، وحققت أداءً متقدماً في تحليل الرسوم البيانية لتمثيل المعنى التوافقي (AMR parsing). ومع ذلك، تعتمد العديد من الدراسات السابقة على مشغل ثنائي التأثير لتنبؤات الاتجاهات (arcs) أو التسميات (labels) أو كليهما، رغم أن معظم الميزات المستخدمة من قبل هذا المشغل يمكن بالفعل تعلّمها بواسطة المحولات نفسها. تقدّم هذه الورقة نهجًا جديدًا لتحليل AMR من خلال دمج بيانات متنوعة (الكلمات، المفاهيم، التسميات) في مدخل واحد للمحول، بهدف تعلّم التفاعل (attention)، واستخدام مصفوفات التفاعل الناتجة فقط من المحول للتنبؤ بجميع عناصر الرسوم البيانية في AMR (المفاهيم، الاتجاهات، التسميات). وعلى الرغم من أن نماذجنا تستخدم عددًا أقل بكثير من المعاملات (parameters) مقارنةً بالنموذج الرائد السابق في مجال تحليل الرسوم البيانية، إلا أنها تُظهر دقة مماثلة أو أفضل على مجموعتي بيانات AMR 2.0 و3.0.

مُحلِّل AMR باستخدام رسم ليفي وانتباه غير متجانس | أحدث الأوراق البحثية | HyperAI