في هذا البحث، نقوم بتحليل منهجي لهياكل الاتصال في الشبكات العصبية التكرارية (RNNs). يكمن إسهامنا الرئيسي في جانبين: أولاً، نقدم إطارًا نظريًا دقيقًا يستند إلى نظرية الرسوم البيانية لوصف هياكل الاتصال في الشبكات العصبية التكرارية بشكل عام. ثانياً، نقترح ثلاثة مقاييس للتعقيد المعماري للشبكات العصبية التكرارية: (أ) العمق التكراري، الذي يقيس التعقيد اللامخطي عبر الزمن للشبكة العصبية التكرارية، (ب) العمق التقديمي، الذي يقيس التعقيد اللامخطي المحلي بين المدخل والمخرج (مما يشبه "العمق" في الشبكات العصبية التقديمية (FNNs))، و(ج) معامل القفز التكراري، الذي يقيس مدى سرعة انتشار المعلومات عبر الزمن. نثبت بصرامة وجود كل مقياس وقابلية حسابه. تظهر نتائج تجاربنا أن الشبكات العصبية التكرارية قد تستفيد من زيادة العمق التكراري والعمق التقديمي. كما نوضح أن زيادة معامل القفز التكراري توفر تعزيزات في الأداء عند التعامل مع مشاكل الارتباط طويل المدى.