ZJUKLAB في مسابقة SemEval-2021 المهمة 4: تعزيز سلبي باستخدام نموذج لغوي لفهم القراءة للمعنى المجرد

تُقدّم هذه الورقة نظامنا الخاص للثلاثة مهام فرعية في مهمة SemEval Task4: فهم القراءة للدلالة المجردة (ReCAM). ونُفصّل في الخوارزميات المستخدمة لتعلم نماذجنا، بالإضافة إلى عملية ضبط هذه الخوارزميات واختيار النموذج الأفضل. مستوحاة من التشابه بين مهمة ReCAM والتدريب المسبق للغة، نُقدّم تقنية بسيطة ولكن فعّالة، تُعرف بـ "التكثيف السلبي باستخدام نموذج اللغة". وتُظهر نتائج التقييم فعالية النهج المُقترح. وقد حقق نماذجنا التصنيف الرابع في كلا المجموعتين الرسميتين للاختبار في المهمة الفرعية 1 والمهمة الفرعية 2، بتحقيق دقة قدرها 87.9% و92.8% على التوالي. كما قمنا بتحليل معمّق للنموذج ولاحظنا حالات أخطاء مثيرة للاهتمام، والتي قد تُسهم في دفع أبحاث المستقبل.