تحليل المشاعر القائمة على الجوانب باستخدام BERT مع انتباه منفصل

تهدف مهام تحليل المشاعر القائمة على الجوانب (ABSA) إلى تحديد آراء المستهلكين حول جوانب مختلفة من المنتجات أو الخدمات. وقد تم استخدام نماذج اللغة المستندة إلى BERT بنجاح في التطبيقات التي تتطلب فهمًا عميقًا للغة، مثل تحليل المشاعر. تتناول هذه الورقة دراسة استخدام التعلم المنفصل (disentangled learning) لتحسين التمثيلات النصية المستندة إلى BERT في مهام ABSA. مستوحاة من النجاح الذي حققته تقنيات التمثيل المنفصل في مجال الرؤية الحاسوبية، والتي تهدف إلى استخلاص العوامل التفسيرية في تمثيلات البيانات، قمنا باستكشاف نموذج DeBERTa الحديث (Decoding-enhanced BERT with Disentangled Attention) لفصل الخصائص النحوية والدلالية من بنية BERT. أظهرت النتائج التجريبية أن دمج الانتباه المنفصل واستراتيجية تحسين بسيطة للوظائف السفلية يتفوق على النماذج الرائدة في مجموعات بيانات المعيار لمهام ABSA.