HyperAIHyperAI
منذ 11 أيام

إبطال أسطورة الاستدلال من الرتبة العليا في حل التماثل

Liyan Xu, Jinho D. Choi
إبطال أسطورة الاستدلال من الرتبة العليا في حل التماثل
الملخص

تحلل هذه الورقة تأثير الاستدلال من الدرجة العليا (HOI) على مهمة تحديد الترابط النحوي. وقد تم تبني استدلال الدرجة العليا من قِبل معظم النماذج الحديثة لتحديد الترابط النحوي، دون إجراء دراسة متعمقة لفعاليته الحقيقية في تعلم التمثيل. ولإجراء تحليل شامل، قمنا بتنفيذ نظام نهائياً لتحديد الترابط النحوي، بالإضافة إلى أربع طرق لاستدلال الدرجة العليا: التوجيه نحو المُسَبِّب (attended antecedent)، ومساواة الكيانات (entity equalization)، وتكديس الفترات (span clustering)، ودمج المجموعات (cluster merging)، حيث إن الطريقتين الأخيرتين هما من طرقنا الأصلية. ووجدنا أنه عند استخدام مشغل عالي الأداء مثل SpanBERT، فإن تأثير استدلال الدرجة العليا يكون سلبياً أو ضئيلاً إلى حدٍ ما، مما يُقدّم منظوراً جديداً حول هذه التقنية في هذا المجال. وسجل أفضل نموذج لدينا باستخدام طريقة دمج المجموعات متوسط دقة F1 بلغ 80.2 على مجموعة بيانات مشاركة CoNLL 2012 باللغة الإنجليزية.

إبطال أسطورة الاستدلال من الرتبة العليا في حل التماثل | أحدث الأوراق البحثية | HyperAI