استكشاف الخصائص غير المحلية للتحليل النحوي العصبي

بفضل قوة التمثيل القوية للترميزات العصبية، حققتparsers القائمة على الرسوم البيانية العصبية أداءً تنافسيًا عاليًا باستخدام السمات المحلية. في الآونة الأخيرة، أظهرت الدراسات أن السمات غير المحلية في الهياكل CRF تؤدي إلى تحسينات. في هذه الورقة، نستكشف إدخال السمات غير المحلية إلى عملية التدريب لـ parser محلي يستند إلى الشُّرَط (span-based)، من خلال توقع أنماط غير محلية مبنية على n-gram للتركيبات، مع ضمان الاتساق بين الأنماط غير المحلية والتركيبات المحلية. تُظهر النتائج أن طريقةنا البسيطة تحقق أداءً أفضل من parser القائم على الانتباه الذاتي (self-attentive parser) على كل من مجموعتي البيانات PTB وCTB. علاوةً على ذلك، تحقق طريقتنا أداءً من الدرجة الأولى (state-of-the-art) باستخدام نموذج BERT على PTB (95.92 F1)، وأداءً قويًا على CTB (92.31 F1). كما تحقق parser لدينا أداءً أفضل أو مُنافسًا في البيئات متعددة اللغات والبيئات ذات الصفر-الاستخدام (zero-shot cross-domain) مقارنةً بالنموذج الأساسي.