مزيج الخبراء الخطيين للتنبؤ بالسلاسل الزمنية طويلة الأمد

يهدف التنبؤ بالسلسلة الزمنية طويلة المدى (LTSF) إلى توقع القيم المستقبلية لسلسلة زمنية بناءً على القيم السابقة. ويُحقّق حاليًا أعلى مستوى من الأداء (SOTA) في هذا المجال، في بعض الحالات، من خلال نماذج مركزية خطيّة، والتي تتميز بشكل رئيسي بطبقة تطابق خطيّة. ومع ذلك، نظرًا لبساطتها المتأصلة، فإنها لا تتمكن من تعديل قواعد التنبؤ وفقًا للتغيرات الدورية في أنماط السلسلة الزمنية. ولحل هذه التحديات، نقترح إضافة من نوع "مزيج الخبراء" (Mixture-of-Experts) للنماذج المركزية خطيًا، ونقدّم نموذج "مزيج الخبراء الخطيين" (MoLE). بدلًا من تدريب نموذج واحد، يُدرّب MoLE عدة نماذج مركزية خطيًا (أي خبراء)، إلى جانب نموذج مُوجّه (router) يُوزّع ويُدمج مخرجات هذه النماذج. وعلى الرغم من أن الإطار الكامل يُدرّب بشكل متسلسل (end-to-end)، فإن كل خبير يتعلّم التخصص في نمط زمني معين، بينما يتعلّم نموذج المُوجّه تجميع الخبراء بشكل تكيّفي. تُظهر التجارب أن MoLE يقلّل من خطأ التنبؤ في النماذج المركزية خطيًا، بما في ذلك DLinear و RLinear و RMLP، في أكثر من 78% من مجموعات البيانات والبيئات التي تم تقييمها. وباستخدام MoLE، يمكن للنماذج المركزية الخطيّة الحالية أن تحقق نتائج SOTA في التنبؤ بالسلسلة الزمنية طويلة المدى في 68% من التجارب التي يقارنها PatchTST، بينما تحقق النماذج المركزية الخطيّة الفردية (Single-head) نتائج SOTA فقط في 25% من الحالات.