الملخص
قد حقق نموذج BERT، وهو نموذج مُدرب مسبق من نوع Transformer، أداءً ثوريًا في العديد من مهام معالجة اللغة الطبيعية (NLP). في هذا البحث، نصف BERTSUM، وهو تباين بسيط من BERT، يستخدم لتقديم الملخصات الاستخراجية. نظامنا يعتبر الأفضل حاليًا على مجموعة بيانات CNN/Dailymail، حيث يتفوق على أفضل نظام سابق بأكثر من 1.65 في مؤشر ROUGE-L. يمكن الوصول إلى الكود البرمجي لإعادة إنتاج نتائجنا عبر الرابط: https://github.com/nlpyang/BertSum