تقييم تجريبي لشبكات الالتواء والعودة العامة في نمذجة التسلسلات

لأغلب ممارسي التعلم العميق، فإن نمذجة التسلسلات مرادفة للشبكات المتكررة. ومع ذلك، تشير النتائج الحديثة إلى أن الأطر المتشابكة يمكن أن تتفوق على الشبكات المتكررة في مهام مثل التركيب الصوتي والترجمة الآلية. عند التعامل مع مهمة أو مجموعة بيانات جديدة لنمذجة التسلسلات، أي هيكل يجب استخدامه؟ نقوم بإجراء تقييم منهجي للأطر المتشابكة والمتكررة العامة لنمذجة التسلسلات. يتم تقييم النماذج عبر نطاق واسع من المهام القياسية التي تُستخدم عادةً لقياس أداء الشبكات المتكررة. تشير نتائجنا إلى أن هيكلًا متشابكًا بسيطًا يتفوق على الشبكات المتكررة التقليدية مثل LSTM في مجموعة متنوعة من المهام والمجموعات البيانات، مع إظهار ذاكرة فعالة أطول. نستنتج أنه يجب إعادة النظر في العلاقة الشائعة بين نمذجة التسلسلات والشبكات المتكررة، وأن تعتبر الشبكات المتشابكة نقطة انطلاق طبيعية للمهام المتعلقة بنمذجة التسلسلات. لمساعدة الأعمال ذات الصلة، قمنا بتوفير الكود في الرابط http://github.com/locuslab/TCN .