الشبكات العصبية المعقدة العميقة

في الوقت الحاضر، تُبنى معظم كتل البناء والتقنيات والهياكل المعمارية لتعلم العمق على أساس عمليات وتمثيلات ذات قيم حقيقية. ومع ذلك، فإن الأعمال الحديثة حول الشبكات العصبية التكرارية والتحليل النظري الأساسي الأقدم تقترح أن الأعداد المعقدة قد تمتلك قدرة تمثيلية أثرى وأنها قد تسهل آليات استرجاع الذاكرة الصامدة للضوضاء. رغم الخصائص الجاذبة وإمكانية فتح هياكل عصبية جديدة تمامًا، فإن الشبكات العصبية العميقة ذات القيم المعقدة قد تم تهميشها بسبب عدم وجود الكتل الأساسية المطلوبة لتصميم مثل هذه النماذج. في هذا العمل، نوفر المكونات الذرية الرئيسية للشبكات العصبية العميقة ذات القيم المعقدة ونطبقها على شبكات التغذية الأمامية التلافيفية وشبكات LSTM التلافيفية. بشكل أكثر دقة، نعتمد على التلافيف المعقدة ونقدم خوارزميات للتقييم الدُفعةي المعقد (Complex Batch-Normalization)، واستراتيجيات مبادرة الأوزان المعقدة للشبكات العصبية ذات القيم المعقدة، ونستخدمها في تجارب مع خطط تدريب شاملة من النهاية إلى النهاية. نثبت أن هذه النماذج ذات القيم المعقدة تنافس نظيراتها ذات القيم الحقيقية. نختبر النماذج العميقة المعقدة في عدة مهام رؤية حاسوبية وفي تحويل الموسيقى باستخدام مجموعة بيانات MusicNet وفي تنبؤ طيف الكلام باستخدام مجموعة بيانات TIMIT. نحقق أداءً يتفوق على أفضل ما هو موجود في هذه المهام المتعلقة بالصوت.