HyperAIHyperAI

Command Palette

Search for a command to run...

FiLM: نموذج ذاكرة لاجندري المحسّن بالتكرار للتنبؤ بالسلسلة الزمنية طويلة الأمد

Tian Zhou Ziqing Ma Xue wang Qingsong Wen Liang Sun Tao Yao Wotao Yin Rong Jin

الملخص

أظهرت دراسات حديثة أن نماذج التعلم العميق مثل الشبكات العصبية ذات التغذية المرتدة (RNNs) والمحولات (Transformers) قد أتت بتحسينات كبيرة في التنبؤ طويل الأمد للسلاسل الزمنية، نظرًا لقدرتها الفعالة على استغلال المعلومات التاريخية. ومع ذلك، لاحظنا أن هناك مجالًا واسعًا للتحسين في كيفية الحفاظ على المعلومات التاريخية داخل الشبكات العصبية، مع تجنب التكيف المفرط مع الضوضاء الموجودة في السجل التاريخي. وحل هذه المشكلة يتيح استغلالًا أفضل لقدرات نماذج التعلم العميق. ولتحقيق ذلك، قمنا بتصميم نموذج يُسمى Frequency improved Legendre Memory، أو ما يُعرف بـ {\bf FiLM}: حيث يُطبّق التصوير باستخدام متعدّدات لاجندري لتقريب المعلومات التاريخية، ويستخدم التصوير التوافقي (Fourier) لإزالة الضوضاء، ويُضيف تقريبًا من الرتبة المنخفضة لتسريع العمليات الحسابية. تُظهر الدراسات التجريبية أن النموذج المقترح يُحسّن بشكل ملحوظ دقة النماذج الرائدة في التنبؤ طويل الأمد، سواء في السلاسل الزمنية متعددة المتغيرات أو أحادية المتغير، بنسبة (\textbf{20.3%}, \textbf{22.6%}) على التوالي. كما نُظهر أن وحدة التمثيل التي طوّرناها في هذا العمل يمكن استخدامها كمكوّن عام يمكن تركيبه بسهولة لتحسين أداء التنبؤ طويل الأمد في وحدات تعلم عميق أخرى. يُمكن الاطلاع على الشيفرة المصدرية عبر الرابط: https://github.com/tianzhou2011/FiLM/


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp