تقييم تجريبي لنماذج التضمين الكلمي لمهام تحليل الموضوعية

من المسلم به بشكل واضح أن نتائج التصنيف الجيدة تعتمد بشكل كبير على تقنيات التمثيل. إن تمثيل النص ضرورة لا بد من استيفائها قبل البدء بأي مهمة تحليل نصي، حيث يُشكّل الأساس الذي لا تتمكن النماذج المتقدمة للتعلم الآلي من تعويضه. يهدف هذا البحث إلى تحليل شامل وتقييم كمي للمodelات المختلفة لتمثيل النص بهدف إجراء تحليل الموضوعية. قمنا بتنفيذ طيف واسع من النماذج على مجموعة بيانات كورنيل الخاصة بالموضوعية. ومن المهم الإشارة إلى أن نموذج لغة BERT يُظهر نتائج أفضل بكثير من أي نموذج آخر، ولكنها مكلفة بشكل كبير من حيث الحوسبة مقارنة بالطرق الأخرى. وتمكّنا من تحقيق نتائج من الطراز الرائد في مهمة الموضوعية من خلال تحسين نموذج BERT. ويمكن أن يفتح هذا الباب أمام العديد من الاتجاهات الجديدة، وقد يؤدي إلى تطوير نموذج متخصص مستوحى من BERT ومخصص خصيصًا لتحليل الموضوعية.