HyperAIHyperAI
منذ 2 أشهر

الشبكات العصبية القائمة على الانتقال المُعَمَّم عالميًا

Daniel Andor; Chris Alberti; David Weiss; Aliaksei Severyn; Alessandro Presta; Kuzman Ganchev; Slav Petrov; Michael Collins
الشبكات العصبية القائمة على الانتقال المُعَمَّم عالميًا
الملخص

نقدم نموذج شبكة عصبية انتقالية مُعَمَّم التطبيع عالميًا يحقق أفضل النتائج في تصنيف أجزاء الكلام، وتحليل الاعتماد (dependency parsing)، وضغط الجمل. نموذجنا هو شبكة عصبية تغذية قدما بسيطة تعمل على نظام انتقالي خاص بالمهمة، ومع ذلك يحقق دقة مقاربة أو أفضل من النماذج المتكررة (recurrent models). نناقش أهمية التطبيع العالمي مقابل التطبيع المحلي: الإدراك الرئيسي هو أن مشكلة تحيز العلامات (label bias problem) تعني أن النماذج المُعَمَّم التطبيع عالميًا يمكن أن تكون أكثر تعبيرًا بشكل صارم من النماذج المُعَمَّم التطبيع محليًا.

الشبكات العصبية القائمة على الانتقال المُعَمَّم عالميًا | أحدث الأوراق البحثية | HyperAI