TransLLM: إطار أساسي موحد متعدد المهام للنقل الحضري عبر التحفيز القابل للتعلم

تواجه أنظمة النقل الحضري تحديات متنوعة في مهام متعددة، مثل توقعات حركة المرور، وتوقع الطلب على شحن المركبات الكهربائية (EV)، وتنظيم توزيع سيارات الأجرة. تعاني الطرق الحالية من قيود رئيسية: حيث أن النماذج العميقة الصغيرة الحجم تكون متخصصة في مهام معينة وتحتاج إلى كميات كبيرة من البيانات، مما يحد من قدرتها على التعميم عبر السيناريوهات المختلفة؛ في حين أن النماذج اللغوية الكبيرة (LLMs)، رغم مرونتها الناتجة عن واجهات اللغة الطبيعية، تواجه صعوبات في التعامل مع البيانات الزمانية المكانية المُنظمة والتفكير العددي في المجالات المرورية. وللتغلب على هذه القيود، نقترح "TransLLM"، إطارًا أساسيًا موحدًا يُدمج النمذجة الزمانية المكانية مع النماذج اللغوية الكبيرة من خلال تكوين موجهات قابلة للتعلم. يتميز هذا النهج بوجود مشفر زماني مكاني خفيف الوزن يُمكّن من التقاط الاعتماديات المعقدة من خلال التحويلات الزمنية الممتدة وشبكات الانتباه المزدوجة المجاورة، ويتم دمجه بسلاسة مع النماذج اللغوية الكبيرة من خلال تمثيلات منظمة. كما يُقدّم آلية جديدة لتصريف الموجهات على مستوى المثال، تُدرّس باستخدام التعلم بالتعزيز، وتُعدّل الموجهات بشكل ديناميكي وفقًا للخصائص المدخلة، مما يتجاوز النماذج الثابتة المخصصة للمهام. يعمل الإطار من خلال ترميز الأنماط الزمانية المكانية إلى تمثيلات سياقية، وتكوين ديناميكي للموجهات المخصصة لتوجيه استنتاجات النموذج اللغوي الكبير، ثم تصوير التمثيلات الناتجة عبر طبقات مخرجة متخصصة لإنتاج توقعات مخصصة للمهام. وقد أظهرت التجارب على سبع مجموعات بيانات وثلاث مهام كفاءة استثنائية لـ TransLLM في البيئات المراقبة والصفرية (zero-shot). مقارنةً بعشرة نماذج أساسية، تُظهر TransLLM أداءً تنافسيًا في كل من المشكلات الانحدارية والتخطيطية، مع تميّز قوي في القدرة على التعميم والتكيف عبر المهام المختلفة. يمكن الوصول إلى الكود الخاص بنا من خلال الرابط التالي: https://...