التعلم التدريجي للانتباه الذاتي غير المشرف لتحليل المشاعر على مستوى الجوانب

في تصنيف المشاعر على مستوى الجوانب (Aspect-Level Sentiment Classification - ASC)، من الشائع تزويد النماذج العصبية المهيمنة بآليات الانتباه بهدف الحصول على أهمية كل كلمة سياقية بالنسبة للجانب المعطى. ومع ذلك، فإن مثل هذه الآلية تميل إلى التركيز بشكل مفرط على عدد قليل من الكلمات المتكررة ذات التوجهات العاطفية، بينما تتجاهل الكلمات غير المتكررة. في هذا البحث، نقترح نهجًا تدريجيًا للتعلم الذاتي الانتباهي للنماذج العصبية ASC، والذي يتعقب بشكل آلي المعلومات الإشرافية المفيدة للانتباه من مجمع التدريب لتحسين آليات الانتباه. تحديدًا، نقوم بتكرار التنبؤات العاطفية على جميع حالات التدريب. خصوصاً، في كل تكرار، يتم استخراج الكلمة السياقية ذات الوزن الانتباهي الأقصى ككلمة لها تأثير فعال/مضلّل على التنبؤ الصحيح/الخاطئ لكل حالة، ثم يتم حجب الكلمة نفسها للفترات التالية. أخيرًا، نعزز الهدف التقليدي للتدريب بمصطلح تنظيمي، مما يمكن النماذج ASC من الاستمرار في التركيز بالتساوي على الكلمات السياقية الفعالة المستخرجة مع تقليل وزن تلك المضللة. أظهرت نتائج التجارب على عدة مجموعات بيانات أن النهج المقترح يؤدي إلى آليات انتباه أفضل، مما يؤدي إلى تحسينات كبيرة على النماذجين الرائدتين عصبياً في ASC. يمكن الوصول إلى الكود المصدر والنماذج المدربة عبر الرابط: https://github.com/DeepLearnXMU/PSSAttention.