DialogXL: XLNet شامل لكل شيء للتنبؤ بالمشاعر في المحادثات متعددة الأطراف

تقدم هذه الورقة جهداً رائداً في مجال التعرف على المشاعر في المحادثات (ERC) باستخدام نماذج اللغة المُدرّبة مسبقاً. على عكس المستندات العادية، تظهر العبارات الحوارية بشكل متتالي من أطراف مختلفة، وغالباً ما تُنظَّم في هياكل هرمية في الدراسات السابقة. ولا تتماشى هذه الهياكل مع تطبيق نماذج اللغة المُدرّبة مسبقاً مثل XLNet. ولحل هذه المشكلة، نقترح نموذجاً متكاملاً يُدعى DialogXL، يعتمد على XLNet مع تحسين في الذاكرة لتخزين سياق تاريخي أطول، واعتماد انتباه ذاتي مُدرك للحوار لمعالجة الهياكل متعددة الأطراف. وبشكل مفصل، نُعدِّل أولاً آلية التكرار في XLNet من مستوى القسم إلى مستوى العبارة، بهدف تمثيل أفضل للبيانات الحوارية. ثانياً، نُقدِّم انتباه ذاتي مُدرك للحوار بدلًا من الانتباه الذاتي التقليدي في XLNet، لالتقاط الاعتماديات الداخلية بين المتحدثين والخارجية بينهم. تم إجراء تجارب واسعة على أربع معايير معيارية للـ ERC، مع مقارنة النموذج المقترح بأساليب رئيسية حديثة. أظهرت النتائج التجريبية أن النموذج المُقترح يتفوق على النماذج الأساسية في جميع المجموعات البيانات. كما تم إجراء تجارب إضافية مثل دراسة الإزالة (ablation study) وتحليل الأخطاء، وتوّفر النتائج دليلاً قوياً على دور المكونات الحاسمة في نموذج DialogXL.