UCAS-IIE-NLP في SemEval-2023 المهمة 12: تعزيز تعميم BERT متعدد اللغات للتحليل العاطفي قليل الموارد

يصف هذا البحث نظامنا المصمم لتحدي SemEval-2023 المهمة 12: تحليل المشاعر للغات الأفريقية. تحدي هذه المهمة يتمثل في نقص البيانات المصنفة والمصادر اللغوية في البيئات ذات الموارد المحدودة. لمعالجة هذه التحديات، نقترح نظامًا متعدد اللغات عامًا يُدعى SACL-XLMR لتحليل المشاعر في اللغات ذات الموارد المحدودة. بشكل خاص، نصمم بERT متعدد اللغات يستند إلى القاموس (lexicon-based multilingual BERT) لتسهيل تكيف اللغة وتعلم تمثيلات حساسة للمشاعر. بالإضافة إلى ذلك، نطبق تقنية التعلم التبايني الإشرافي (supervised adversarial contrastive learning) لتعلم تمثيلات مهيكلة منتشرة للمشاعر وتعزيز تعميم النموذج. حقق نظامنا نتائج تنافسية، حيث أظهر تفوقًا كبيرًا على النماذج الأساسية في كل من مهمتي التصنيف المتعدد اللغات والتصنيف بدون أمثلة (zero-shot). ومن الجدير بالذكر أن النظام حصل على المركز الأول في مهمة التصنيف بدون أمثلة (zero-shot classification subtask) في الترتيب الرسمي. تؤكد التجارب الواسعة فعالية نظامنا.