مُعَقَّد التحويل: إطار عمل لنمذجة التسلسلات ذات القيم المركبة

بينما شهدت التعلم العميق ازديادًا كبيرًا في الاهتمام في مجالات متعددة خلال السنوات الأخيرة، فإن النماذج العميقة الكبرى تستخدم بشكل شبه معدوم الأعداد المركبة. ومع ذلك، فإن بيانات الصوت والإشارة والصوت تصبح طبيعيًا ذات قيم مركبة بعد تحويل فورييه، وقد أظهرت الدراسات إمكانية تمثيل أكثر ثراءً باستخدام الشبكات المركبة. في هذه الورقة، نقترح نموذج "Transformer مركب" (Complex Transformer)، الذي يعتمد على نموذج المُحَوِّل (Transformer) كهيكل أساسي لنموذج التسلسلات؛ كما نطوّر آلية انتباه وشبكة مشفرة-فكّار تعمل على المدخلات المركبة. ويحقق النموذج أداءً متقدمًا على مستوى الحد الأقصى في مجموعة بيانات MusicNet، وكذلك في مجموعة بيانات الإشارة المكونة من مكوني الطور والتحديث (IQ).