التدريب العدواني لتحليل المشاعر القائمة على الجوانب باستخدام BERT

يُعنى تحليل المشاعر القائمة على الجوانب (ABSA) باستخراج المشاعر وأهدافها. ويمكن أن يكون جمع البيانات المُعلَّمة لهذه المهمة، بهدف مساعدة الشبكات العصبية على التعميم بشكل أفضل، مجهدًا وطويل الأمد من حيث الوقت. كخيار بديل، يمكن إنتاج بيانات مشابهة لل أمثلة الواقعية بشكل اصطناعي من خلال عملية معاكسة تُجرى في فضاء التضمين (embedding space). وعلى الرغم من أن هذه الأمثلة ليست جملًا حقيقية، إلا أنّها أظهرت قدرتها على العمل كطريقة تنشيط (regularization) تُمكن الشبكات العصبية من أن تصبح أكثر مقاومة. في هذا العمل، نطبّق التدريب المعاكس، الذي قدمه غودفيلو وآخرون (2014)، على نموذج لغة BERT المُدرّب مسبقًا (BERT-PT) الذي اقترحه شو وآخرون (2019) في المهمتين الرئيسيتين لتحليل المشاعر: استخراج الجانب (Aspect Extraction) وتصنيف مشاعر الجانب (Aspect Sentiment Classification). وبعد تحسين أداء BERT المُدرّب مسبقًا من خلال دراسة تحليلية (ablation study)، نقترح معمارية جديدة تُسمى BERT التدريب المعاكس (BAT) لاستخدام التدريب المعاكس في مجال ABSA. وتبين النتائج أن النموذج المقترح يتفوق على BERT المُدرّب مسبقًا في كلا المهمتين. وبما نعرفه، فإن هذه الدراسة تمثل أول دراسة تُطبّق التدريب المعاكس في مجال ABSA.