نحو تحسين استقراء معنى الكلمة بالتعويض

استقراء معنى الكلمة (WSI) هو مهمة تجميع غير مشرف لاستخدامات الكلمة داخل الجملة لتمييز المعاني. أظهرت الدراسات الحديثة نتائج قوية من خلال تجميع البديلات اللغوية المستخرجة من نماذج اللغة التكرارية المدربة مسبقًا (ELMo). تحسين الطريقة لتتوافق مع BERT يحسن النتائج بشكل أكبر. نوسع الطريقة السابقة لدعم عدد مجموعات ديناميكي بدلاً من عدد ثابت، كما يدعمه الأساليب البارزة الأخرى، ونقترح طريقة لتفسير المجموعات الناتجة عن طريق ربطها ببديلاتها الأكثر إفادة. ثم نقوم بتحليل الأخطاء الشامل كاشفين عن مصادر الأخطاء المتبقية في مهمة استقراء معنى الكلمة (WSI).كودنا متاح على الرابط: https://github.com/asafamr/bertwsi.