HyperAIHyperAI
منذ 9 أيام

وحدة الانتباه الزمني: نحو تعلّم تنبؤي مكاني-زمني كفؤ

Cheng Tan, Zhangyang Gao, Lirong Wu, Yongjie Xu, Jun Xia, Siyuan Li, Stan Z. Li
وحدة الانتباه الزمني: نحو تعلّم تنبؤي مكاني-زمني كفؤ
الملخص

تهدف التعلّم التنبؤي المكاني-الزماني إلى إنتاج الإطارات المستقبلية من خلال التعلّم من الإطارات التاريخية. في هذه الورقة، نستعرض الطرق الحالية ونقدّم إطارًا عامًا للتعلّم التنبؤي المكاني-الزماني، حيث تقوم الوحدة الفضائية المُشفّرة ووحدة التفكيك بالتقاط السمات داخل الإطار، بينما تلتقط الوحدة الزمنية الوسطى الترابطات بين الإطارات. وعلى الرغم من أن الطرق السائدة تستخدم الوحدات التكرارية لالتقاط الاعتماديات الزمنية الطويلة الأمد، إلا أنها تعاني من كفاءة حسابية منخفضة نظرًا لبنية هياكلها غير القابلة للتوحيد المتوازٍ. ولتمكين الوحدة الزمنية من التوسع المتوازي، نقترح وحدة الانتباه الزمني (TAU)، التي تقوم بتحليل انتباه الزمن إلى انتباه ثابت داخلي للإطار وانتباه ديناميكي بين الإطارات. علاوة على ذلك، بينما يركّز فقدان المربعات المتوسطة على الأخطاء داخل الإطار، نقدّم تسوية تباينية تفاضلية جديدة لمراعاة التغيرات بين الإطارات. تُظهر التجارب الواسعة أن الطريقة المقترحة تُمكّن النموذج الناتج من تحقيق أداءً تنافسيًا على مجموعة متنوعة من معايير التنبؤ المكاني-الزماني.

وحدة الانتباه الزمني: نحو تعلّم تنبؤي مكاني-زمني كفؤ | أحدث الأوراق البحثية | HyperAI