الترميز الموضعي لتحكم في طول تسلسل الإخراج

تمكنت نماذج الترميز-التفكيك العصبية من تحقيق نجاح كبير في مهام توليد اللغة الطبيعية. ومع ذلك، يجب على التطبيقات الحقيقية للملخصات الاستخراجية أن تأخذ بعين الاعتبار قيودًا إضافية، مثل عدم تجاوز الملخص المولد للطول المطلوب. في هذا البحث، نقترح توسيعًا بسيطًا ولكنه فعال لترميز الموقع الجيب التمامي (Vaswani وآخرون، 2017) لتمكين نموذج الترميز-التفكيك العصبي من الحفاظ على قيد الطول. على عكس الدراسات السابقة التي تتعلم تمثيلات متجهية لكل طول، يمكن للطريقة المقترحة إنتاج نصوص بأي طول حتى لو لم يكن الطول المستهدف موجودًا في بيانات التدريب. أظهرت النتائج التجريبية أن الطريقة المقترحة不仅可以控制生成长度,还可以提高ROUGE分数。请注意,最后一句中的“不仅可以控制生成长度,还可以提高ROUGE分数”在阿拉伯语中应为:لا يقتصر الأمر على قدرة الطريقة المقترحة على السيطرة على طول الإنتاج فحسب، بل إنها أيضًا تحسن درجات ROUGE.因此,完整的翻译如下:تمكنت نماذج الترميز-التفكيك العصبية من تحقيق نجاح كبير في مهام توليد اللغة الطبيعية. ومع ذلك، يجب على التطبيقات الحقيقية للملخصات الاستخراجية أن تأخذ بعين الاعتبار قيودًا إضافية، مثل عدم تجاوز الملخص المولد للطول المطلوب. في هذا البحث، نقترح توسيعًا بسيطًا ولكنه فعال لترميز الموقع الجيب التمامي (Vaswani وآخرون، 2017) لتمكين نموذج الترميز-التفكيك العصبي من الحفاظ على قيد الطول. على عكس الدراسات السابقة التي تتعلم تمثيلات متجهية لكل طول، يمكن للطريقة المقترحة إنتاج نصوص بأي طول حتى لو لم يكن الطول المستهدف موجودًا في بيانات التدريب. لا يقتصر الأمر على قدرة الطريقة المقترحة على السيطرة على طول الإنتاج فحسب، بل إنها أيضًا تحسن درجات ROUGE.