BasisFormer: تنبؤ بسلسلة زمنية تعتمد على الانتباه مع قواعد قابلة للتعلم وقابلة للتفسير

أصبحت القواعد جزءًا لا يتجزأ من النماذج الحديثة المستندة إلى التعلم العميق للتنبؤ بالسلاسل الزمنية بفضل قدرتها على العمل كمُستخرِجات للسمات أو كمرجعية مستقبلية. ولتحقيق الفعالية، يجب أن تكون القاعدة مُعدّة خصيصًا لحزمة معينة من بيانات السلاسل الزمنية، وأن تُظهر ارتباطًا متميزًا بكل سلسلة زمنية ضمن تلك الحزمة. ومع ذلك، فإن الطرق الحديثة الأفضل حالياً محدودة في قدرتها على تلبية هذين الشرطين معًا في الوقت نفسه. ولحل هذه التحديات، نقترح معمارية BasisFormer، وهي معمارية للتنبؤ بالسلاسل الزمنية تعمل من الطرف إلى الطرف وتستفيد من قواعد قابلة للتعلم وقابلة للتفسير. تتألف هذه المعمارية من ثلاث مكونات: أولاً، نحصل على القواعد من خلال التعلم الذاتي المتكيف، حيث نعامل الأجزاء التاريخية والمستقبلية للسلاسل الزمنية على أنها وجهتين منفصلتين، ونستخدم التعلم التبايني (contrastive learning). ثانيًا، نصمم وحدة Coef تقوم بحساب معاملات التشابه بين السلاسل الزمنية والقواعد في الوجهة التاريخية باستخدام الانتباه المتبادل ثنائي الاتجاه. أخيرًا، نقدم وحدة التنبؤ (Forecast) التي تختار وتوحّد القواعد في الوجهة المستقبلية بناءً على معاملات التشابه، مما يؤدي إلى تنبؤات دقيقة للمستقبل. وقد أظهرت تجاربنا الواسعة على ستة مجموعات بيانات أن BasisFormer يتفوق على الطرق السابقة الأفضل حالياً بنسبة 11.04٪ و15.78٪ على التوالي في مهام التنبؤ بالسلاسل الزمنية أحادية المتغير ومتعددة المتغيرات. يمكن الوصول إلى الكود من خلال: \url{https://github.com/nzl5116190/Basisformer}