{Cagliero Luca La Quatra Moreno}
الملخص
أدى ظهور الهياكل القائمة على الانتباه إلى تحسينات كبيرة في أداء النماذج العصبية المتسلسلة-إلى-متسلسلة لملخصات النصوص. وعلى الرغم من أن هذه النماذج أثبتت فعاليتها في تلخيص الوثائق المكتوبة باللغة الإنجليزية، فإن قابليتها للتنقل إلى لغات أخرى محدودة، مما يترك مجالًا واسعًا للتحسين. في هذه الورقة، نقدم نموذج BART-IT، وهو نموذج متسلسل-إلى-متسلسل مبني على هيكل BART، مصمم خصيصًا للغة الإيطالية. تم تدريب النموذج مسبقًا على مجموعة كبيرة من النصوص المكتوبة باللغة الإيطالية لتعلم السمات المميزة للغة، ثم تم تحسينه دقيقًا على عدة مجموعات معيارية مُحددة لملخصات الاستخلاص. أظهرت النتائج التجريبية أن BART-IT يتفوق على نماذج الحالة الراهنة الأخرى من حيث مقاييس ROUGE، رغم عدد أقل بشكل ملحوظ من المعاملات. يمكن أن يُسهم استخدام BART-IT في دفع عجلة تطوير تطبيقات مثيرة في معالجة اللغة الطبيعية للغة الإيطالية. وبالإضافة إلى إتاحة النموذج للمجتمع البحثي لتشجيع الأبحاث والتطبيقات المستقبلية، نناقش أيضًا الجوانب الأخلاقية المرتبطة باستخدام نماذج ملخصات الاستخلاص.
مستودعات الكود
المعايير القياسية
| معيار قياسي | المنهجية | المقاييس |
|---|---|---|
| abstractive-text-summarization-on-abstractive | BART-IT | # Parameters: 140 BERTScore: 73.24 ROUGE-1: 35.42 ROUGE-2: 15.88 ROUGE-L: 25.12 |
| abstractive-text-summarization-on-abstractive | mT5 | # Parameters: 390 BERTScore: 72.77 ROUGE-1: 34.13 ROUGE-2: 15.76 ROUGE-L: 24.84 |
| abstractive-text-summarization-on-abstractive | mBART | # Parameters: 610 BERTScore: 73.4 ROUGE-1: 36.52 ROUGE-2: 17.52 ROUGE-L: 26.14 |
| abstractive-text-summarization-on-abstractive | IT5-base | # Parameters: 220 BERTScore: 70.3 ROUGE-1: 33.99 ROUGE-2: 15.59 ROUGE-L: 24.91 |
| abstractive-text-summarization-on-abstractive-1 | IT5-base | BERTScore: 71.06 ROUGE-1: 32.88 ROUGE-2: 15.53 ROUGE-L: 26.7 |
| abstractive-text-summarization-on-abstractive-1 | mT5 | BERTScore: 74.69 ROUGE-1: 35.04 ROUGE-2: 17.41 ROUGE-L: 28.68 |
| abstractive-text-summarization-on-abstractive-1 | mBART | BERTScore: 75.86 ROUGE-1: 38.91 ROUGE-2: 21.41 ROUGE-L: 32.08 |
| abstractive-text-summarization-on-abstractive-1 | BART-IT | BERTScore: 75.36 ROUGE-1: 37.31 ROUGE-2: 19.44 ROUGE-L: 30.41 |
| abstractive-text-summarization-on-wits | IT5-base | BERTScore: 77.14 ROUGE-1: 37.98 ROUGE-2: 24.32 ROUGE-L: 34.94 |
| abstractive-text-summarization-on-wits | BART-IT | BERTScore: 79.28 ROUGE-1: 42.32 ROUGE-2: 28.83 ROUGE-L: 38.84 |
| abstractive-text-summarization-on-wits | mBART | BERTScore: 78.65 ROUGE-1: 39.32 ROUGE-2: 26.18 ROUGE-L: 35.9 |
| abstractive-text-summarization-on-wits | mT5 | BERTScore: 80.73 ROUGE-1: 40.6 ROUGE-2: 26.9 ROUGE-L: 37.43 |
بناء الذكاء الاصطناعي بالذكاء الاصطناعي
من الفكرة إلى الإطلاق — عجّل تطوير الذكاء الاصطناعي الخاص بك من خلال البرمجة المشتركة المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.