منذ 2 أشهر
تقييم تجريبي لشبكات العصبيات المتكررة ذات الأبواب في نمذجة التسلسلات
Junyoung Chung; Caglar Gulcehre; KyungHyun Cho; Yoshua Bengio

الملخص
في هذا البحث، نقارن بين أنواع مختلفة من الوحدات المتكررة في الشبكات العصبية المتكررة (RNNs). بشكل خاص، نركز على الوحدات الأكثر تعقيدًا التي تطبق آلية التحكم بالبوابات، مثل وحدة الذاكرة قصيرة المدى طويلة الأمد (LSTM) ووحدة التكرار ذات البوابة المقترحة حديثًا (GRU). نقيم هذه الوحدات المتكررة في مهام نمذجة الموسيقى البوليفرنية ونمذجة الإشارة الصوتية. كشفت تجاربنا أن هذه الوحدات المتكررة المتقدمة هي بالفعل أفضل من الوحدات المتكررة التقليدية مثل وحدات tanh. كما وجدنا أن أداء GRU يعادل أداء LSTM.