xPatch: التنبؤ بسلسلة زمنية ذات تدفق مزدوج باستخدام تحليل موسمي واتجاهي أسي

في السنوات الأخيرة، حظيت تطبيقات النماذج القائمة على المحولات (Transformer-based models) في التنبؤ بالسلسلة الزمنية باهتمام كبير. وعلى الرغم من أن هذه النماذج تُظهر غالبًا نتائج واعدة، إلا أن معمارية المحولات تواجه تحديات في استغلال العلاقات الزمنية داخل بيانات السلسلة الزمنية بشكل كامل نظرًا لآلية الانتباه (attention mechanism). في هذا العمل، نصمم xPatch، وهي معمارية ثنائية التدفق جديدة تعتمد على التحليل الأسي (exponential decomposition). مستوحاة من أساليب التمهيد الأسي الكلاسيكية، تُقدّم xPatch وحدة تحليل أسيّة للاتجاه والدورة الموسمية (seasonal-trend exponential decomposition module). علاوةً على ذلك، نقترح معمارية ثنائية التدفق تتكون من تدفق خطي مبني على الشبكة العصبية المتعددة الطبقات (MLP) وتدفق غير خطي مبني على الشبكة العصبية التلافيفية (CNN). وتستكشف هذه النموذج فوائد استخدام تقنيتي تقسيم البيانات إلى "قطع" (patching) واستقلالية القنوات (channel-independence) داخل نموذج غير مبني على المحولات. وأخيرًا، نطوّر دالة خسارة قوية تُسمى دالة الظل العكسي (arctangent loss function) ونظامًا لضبط معدل التعلم باستخدام الدالة الجيبية (sigmoid learning rate adjustment scheme)، اللذان يمنعان التعلم الزائد (overfitting) ويعززان أداء التنبؤ. يمكن الوصول إلى الشيفرة المصدرية عبر المخزن التالي: https://github.com/stitsyuk/xPatch.