HyperAIHyperAI
منذ 2 أشهر

نموذج تتابعي متسلسل بالدّوران معزّز بموضوع لتقديم ملخص نصي استخراجي

Li Wang; Junlin Yao; Yunzhe Tao; Li Zhong; Wei Liu; Qiang Du
نموذج تتابعي متسلسل بالدّوران معزّز بموضوع لتقديم ملخص نصي استخراجي
الملخص

في هذا البحث، نقترح منهجية التعلم العميق لمعالجة مهام التلخيص الآلي من خلال دمج معلومات الموضوع في نموذج التحويل المتتالي بالشفرات الإدراكية (ConvS2S) واستخدام تدريب التسلسل الذاتي النقدي (SCST) للتحسين. من خلال التركيز المشترك على المواضيع والتوافق على مستوى الكلمات، يمكن لمنهجيتنا تحسين تماسك، تنوع ومعلوماتية الملخصات المولدة عبر آلية إنتاج الاحتمالات المتحيزة. من ناحية أخرى، يُحسن التدريب التعزيزي، مثل SCST، النموذج المقترح مباشرة وفقًا للمقياس غير القابل للتفاضل ROUGE، مما يتجنب أيضًا الانحياز أثناء الاستدلال. نقوم بإجراء تقييم تجريبي باستخدام أفضل الأساليب الحالية على مجموعات البيانات Gigaword و DUC-2004 و LCSTS. تظهر النتائج التجريبية تفوق طريقة التلخيص الاستنتاجي المقترحة لدينا.

نموذج تتابعي متسلسل بالدّوران معزّز بموضوع لتقديم ملخص نصي استخراجي | أحدث الأوراق البحثية | HyperAI