HyperAIHyperAI

Command Palette

Search for a command to run...

منذ 4 أشهر

تعلم النسخ من تاريخ النسخ: شبكة نسخ ارتباطية للاستخلاص التلخيصي

{BoWen Zhou Xiaodong He Youzheng Wu Yujia Wang Peng Yuan Song Xu Haoran Li}

تعلم النسخ من تاريخ النسخ: شبكة نسخ ارتباطية للاستخلاص التلخيصي

الملخص

آليّة النسخ حققت نجاحًا كبيرًا في تلخيص النصوص الاستنتاجية، حيث سهّلت على النماذج نسخ الكلمات مباشرة من النص المدخل إلى الملخص الناتج. تعتمد الأعمال الحالية بشكل رئيسي على الانتباه بين المشفر (encoder) والفكّر (decoder)، والذي يطبّق عملية النسخ في كل خطوة زمنية بشكل مستقل عن الخطوات السابقة. ومع ذلك، قد تؤدي هذه الطريقة أحيانًا إلى نسخ غير كامل. في هذا البحث، نقترح.scheme نموذجًا جديدًا للنسخ يُسمّى شبكة النسخ الترابطية (CoCoNet)، التي تُحسّن الآلية القياسية للنسخ من خلال تتبع تاريخ النسخ. وبذلك، تستفيد من التوزيعات السابقة للنسخ، وتشجع صراحةً النموذج في كل خطوة زمنية على نسخ الكلمة في النص المدخل المرتبطة بالكلمة التي تم نسخها سابقًا. علاوةً على ذلك، نعزّز أداء CoCoNet من خلال التدريب المسبق على مجموعات نصية مناسبة تُحاكي سلوك النسخ. أظهرت النتائج التجريبية أن CoCoNet يمكنها النسخ بدقة أكبر، وتحقيق أداءً جديدًا على مستوى الحد الأقصى في معايير التلخيص، بما في ذلك مجموعة بيانات CNN/DailyMail لتلخيص الأخبار، ومجموعة بيانات SAMSum لتلخيص المحادثات. وسيتم إتاحة الكود والملفات النهائية (checkpoints) للجمهور بشكل مفتوح.

المعايير القياسية

معيار قياسيالمنهجيةالمقاييس
abstractive-text-summarization-on-cnn-dailyCoCoNet + CoCoPretrain
ROUGE-1: 44.50
ROUGE-2: 21.55
ROUGE-L: 41.24
abstractive-text-summarization-on-cnn-dailyCoCoNet
ROUGE-1: 44.39
ROUGE-2: 21.41
ROUGE-L: 41.05

بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — عجّل تطوير الذكاء الاصطناعي الخاص بك من خلال البرمجة المشتركة المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة المشتركة بالذكاء الاصطناعي
وحدات معالجة رسومات جاهزة
أفضل الأسعار
ابدأ الآن

Hyper Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
تعلم النسخ من تاريخ النسخ: شبكة نسخ ارتباطية للاستخلاص التلخيصي | الأوراق البحثية | HyperAI