HyperAIHyperAI

Command Palette

Search for a command to run...

DialogXL: XLNet شامل لكل شيء للتنبؤ بالمشاعر في المحادثات متعددة الأطراف

Weizhou Shen Junqing Chen Xiaojun Quan Zhixian Xie

الملخص

تقدم هذه الورقة جهداً رائداً في مجال التعرف على المشاعر في المحادثات (ERC) باستخدام نماذج اللغة المُدرّبة مسبقاً. على عكس المستندات العادية، تظهر العبارات الحوارية بشكل متتالي من أطراف مختلفة، وغالباً ما تُنظَّم في هياكل هرمية في الدراسات السابقة. ولا تتماشى هذه الهياكل مع تطبيق نماذج اللغة المُدرّبة مسبقاً مثل XLNet. ولحل هذه المشكلة، نقترح نموذجاً متكاملاً يُدعى DialogXL، يعتمد على XLNet مع تحسين في الذاكرة لتخزين سياق تاريخي أطول، واعتماد انتباه ذاتي مُدرك للحوار لمعالجة الهياكل متعددة الأطراف. وبشكل مفصل، نُعدِّل أولاً آلية التكرار في XLNet من مستوى القسم إلى مستوى العبارة، بهدف تمثيل أفضل للبيانات الحوارية. ثانياً، نُقدِّم انتباه ذاتي مُدرك للحوار بدلًا من الانتباه الذاتي التقليدي في XLNet، لالتقاط الاعتماديات الداخلية بين المتحدثين والخارجية بينهم. تم إجراء تجارب واسعة على أربع معايير معيارية للـ ERC، مع مقارنة النموذج المقترح بأساليب رئيسية حديثة. أظهرت النتائج التجريبية أن النموذج المُقترح يتفوق على النماذج الأساسية في جميع المجموعات البيانات. كما تم إجراء تجارب إضافية مثل دراسة الإزالة (ablation study) وتحليل الأخطاء، وتوّفر النتائج دليلاً قوياً على دور المكونات الحاسمة في نموذج DialogXL.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp