تكيف أو تخلف خلف: التكيف النطقي من خلال تعديل نموذج اللغة BERT لتصنيف المشاعر المستهدفة بالجوانب

تصنيف المشاعر المستند إلى الجوانب والأهداف (ATSC) هو جزء من تحليل المشاعر المستند إلى الجوانب (ABSA)، والذي له العديد من التطبيقات، مثل في التجارة الإلكترونية، حيث يمكن الاستفادة من البيانات والرؤى المستخلصة من التقييمات لإنشاء قيمة للشركات والعملاء. مؤخرًا، تم تطبيق طرق التعلم العميق بالنقل بنجاح على مجموعة متنوعة من مهام معالجة اللغة الطبيعية (NLP)، بما في ذلك ATSC. بناءً على النموذج اللغوي البارز BERT، نتناول ATSC باستخدام إجراء ثنائي الخطوات: تعديل النموذج اللغوي BERT المحدد للنطاق بشكل ذاتي بدون إشراف، يليه تعديل النموذج المحدد للمهمة تحت الإشراف. نتائجنا حول كيفية استغلال تعديل النموذج اللغوي المحدد للنطاق بشكل أفضل تمكننا من تحقيق أداء جديد رائد على مجموعة بيانات مطاعم SemEval 2014 مهمة 4. بالإضافة إلى ذلك، لاستكشاف متانة نماذجنا في العالم الحقيقي، نقوم بتقييم عبر نطاقات مختلفة. نظهر أن نموذج اللغة BERT المعدل عبر نطاقات مختلفة يؤدي بشكل أفضل بكثير من النماذج الأساسية القوية مثل BERT-base البسيطة و XLNet-base. أخيرًا، نجري دراسة حالة لفهم أخطاء التنبؤات التي يقوم بها النموذج.