منذ 2 أشهر
التمثيلات على مستوى الحرف تحسن التحليل الدلالي القائم على DRS حتى في عصر BERT
Rik van Noord; Antonio Toral; Johan Bos

الملخص
نقوم بدمج تمثيلات النماذج اللغوية على مستوى الحروف وعلى مستوى السياق لتحسين الأداء في تحليل هيكل التمثيل الخطابي (Discourse Representation Structure). يمكن إضافة التمثيلات الحرفية بسهولة في نموذج متسلسل إلى متسلسل (sequence-to-sequence) إما في مشفّر واحد أو كمشفّر منفصل تمامًا، مع تحسينات ثابتة تجاه مختلف النماذج اللغوية واللغات ومجموعات البيانات. بالنسبة للإنجليزية، تكون هذه التحسينات أكبر من إضافة مصادر فردية للمعلومات اللغوية أو إضافة مضمنات غير سياقية. يظهر طريقة جديدة للتحليل تعتمد على العلامات الدلالية أن التمثيلات الحرفية تحسن الأداء عبر مجموعة فرعية من الظواهر الدلالية المختارة.