FiLM: نموذج ذاكرة لاجندري المحسّن بالتكرار للتنبؤ بالسلسلة الزمنية طويلة الأمد

أظهرت دراسات حديثة أن نماذج التعلم العميق مثل الشبكات العصبية ذات التغذية المرتدة (RNNs) والمحولات (Transformers) قد أتت بتحسينات كبيرة في التنبؤ طويل الأمد للسلاسل الزمنية، نظرًا لقدرتها الفعالة على استغلال المعلومات التاريخية. ومع ذلك، لاحظنا أن هناك مجالًا واسعًا للتحسين في كيفية الحفاظ على المعلومات التاريخية داخل الشبكات العصبية، مع تجنب التكيف المفرط مع الضوضاء الموجودة في السجل التاريخي. وحل هذه المشكلة يتيح استغلالًا أفضل لقدرات نماذج التعلم العميق. ولتحقيق ذلك، قمنا بتصميم نموذج يُسمى Frequency improved Legendre Memory، أو ما يُعرف بـ {\bf FiLM}: حيث يُطبّق التصوير باستخدام متعدّدات لاجندري لتقريب المعلومات التاريخية، ويستخدم التصوير التوافقي (Fourier) لإزالة الضوضاء، ويُضيف تقريبًا من الرتبة المنخفضة لتسريع العمليات الحسابية. تُظهر الدراسات التجريبية أن النموذج المقترح يُحسّن بشكل ملحوظ دقة النماذج الرائدة في التنبؤ طويل الأمد، سواء في السلاسل الزمنية متعددة المتغيرات أو أحادية المتغير، بنسبة (\textbf{20.3\%}, \textbf{22.6\%}) على التوالي. كما نُظهر أن وحدة التمثيل التي طوّرناها في هذا العمل يمكن استخدامها كمكوّن عام يمكن تركيبه بسهولة لتحسين أداء التنبؤ طويل الأمد في وحدات تعلم عميق أخرى. يُمكن الاطلاع على الشيفرة المصدرية عبر الرابط: https://github.com/tianzhou2011/FiLM/