تحسين فهم المعنى الوظيفي للكلمات مع تمثيلات معنى محسّنة

تُظهر أنظمة فك تشابه المعنى الكلمي المراقبة الحديثة (مثل GlossBERT والنماذج ثنائية المُشَكِّل) نتائج مذهلة بشكل مفاجئ من خلال الاعتماد حصريًا على النماذج اللغوية المُدرَّبة مسبقًا وتعريفات القاموس القصيرة (أو التعريفات المعجمية) للسياقات المختلفة للكلمة. وعلى الرغم من أن التعريفات المعجمية موجزة وواضحة، إلا أنها تمثل مجرد إحدى الطرق المتعددة لتوفير المعلومات حول سياقات الكلمات. في هذه الورقة البحثية، نركّز على تحسين تمثيلات السياق من خلال دمج مرادفات الكلمة، وعبارات أو جمل تُظهر استخدام السياقات، بالإضافة إلى تعريفات الهوّيّات العليا (hypernyms) للسياقات. ونُظهر أن دمج هذه المعلومات الإضافية يُحسّن الأداء في مهام فك تشابه المعنى الكلمي. وباستخدام التحسينات المقترحة، حقق نظامنا درجة F1 تبلغ 82.0% على مجموعة بيانات الاختبار القياسية القياسية لمهام فك تشابه المعنى الكلمي للغة الإنجليزية في جميع الكلمات، متفوّقًا على جميع الدرجات المنشورة سابقًا على هذه المجموعة القياسية.