HyperAIHyperAI
منذ 11 أيام

المعادلات التفاضلية الخشنة العصبية للسلسلة الزمنية الطويلة

James Morrill, Cristopher Salvi, Patrick Kidger, James Foster, Terry Lyons
المعادلات التفاضلية الخشنة العصبية للسلسلة الزمنية الطويلة
الملخص

تُعد المعادلات التفاضلية ذات التحكم العصبي (CDEs) الصيغة المستمرة الزمنية للشبكات العصبية التكرارية، تمامًا كما تُعد المعادلات التفاضلية العصبية (Neural ODEs) الصيغة المستمرة الزمنية للشبكات العصبية ذات التوصيل المتبقي (Residual Networks)، وتوفر طريقة فعّالة من حيث الذاكرة لتمثيل الدوال الخاصة بسلسلة زمنية قد تكون غير منتظمة. تعتمد الطرق الحالية لحساب عملية التمرير الأمامي لـ CDE العصبي على تضمين السلسلة الزمنية الواردة في فضاء المسار، غالبًا عبر التداخل (Interpolation)، واستخدام تقييمات هذا المسار لتوجيه الحالة المخفية. في هذا العمل، نستخدم نظرية المسارات الخشنة (Rough Path Theory) لتوسيع هذه الصيغة. بدلًا من التضمين المباشر في فضاء المسار، نمثل الإشارة الواردة على فترات زمنية صغيرة من خلال ما يُعرف بـ \textit{التوقيع اللوغاريتمي} (log-signature)، وهي إحصائيات تصف كيف تُحدث الإشارة تأثيرًا على CDE. هذه هي الطريقة المتبعة لحل المعادلات التفاضلية الخشنة (RDEs)، وبناءً عليه نصفّ تطورنا الرئيسي على أنه إدخال ما يُسمى بـ \textit{المعادلات التفاضلية العصبية الخشنة} (Neural RDEs). يهدف هذا التوسيع إلى تمديد نهج CDE العصبي ليشمل فئة أوسع من الإشارات المُحفِّزة، حيث نُظهر مزايا مميزة في معالجة السلاسل الزمنية الطويلة. في هذا السياق، نُظهر كفاءة الأداء على مشكلات تصل إلى 17,000 ملاحظة، ونلاحظ تسريعًا ملحوظًا في التدريب، وتحسينًا في أداء النموذج، وتقليلًا في متطلبات الذاكرة مقارنة بالطرق الحالية.

المعادلات التفاضلية الخشنة العصبية للسلسلة الزمنية الطويلة | أحدث الأوراق البحثية | HyperAI