HyperAIHyperAI

Command Palette

Search for a command to run...

TiM4Rec: نموذج توصية تسلسلي فعّال يعتمد على نموذج الفضاء المهيكل المزدوج المعتمد على الزمن

Hao Fan Mengyi Zhu Yanrong Hu Hailin Feng Zhijie He Hongjiu Liu Qingyang Liu

الملخص

تتجه نموذج التوصية التسلسلية من معمارية Transformer إلى معمارية Mamba، التي تتضمن جيلين: Mamba1 المستندة إلى نموذج الحالة (SSM)، وMamba2 المستندة إلى التكافؤ الحالة (SSD). وعلى الرغم من أن SSD تتميز بكفاءة حسابية أفضل مقارنة بـ SSM، إلا أنها تعاني من تدهور في الأداء في مهام التوصية التسلسلية، خاصة في السياقات ذات الأبعاد المنخفضة التي تُعد حاسمة لهذه المهام. وبما أن طرق تعزيز الوعي بالزمن تُستخدم بشكل شائع لتقليل فقدان الأداء، فإن تحليلنا يكشف أن تدهور أداء SSD يمكن تعويضه جوهريًا من خلال استغلال آليات موجودة في الطرق التي تعتمد على الوعي بالزمن. وبالتالي، نقترح دمج الوعي بالزمن في إطار SSD لمعالجة هذه المشكلات الأداء. ومع ذلك، فإن دمج الطرق الحالية التي تعتمد على الوعي بالزمن، والمبنية على نموذج TiSASRec، مع هيكل SSD يواجه تحديين رئيسيين: الأول، تعقيد دمج هذه الآليات المستندة إلى Transformer مع هيكل SSD؛ والثاني، عدم الكفاءة الحسابية الناتجة عن الحاجة إلى توسيع الأبعاد في نمذجة الفروق الزمنية. ول superiorar هذه التحديات، نقدم مصفوفة ماسك هيكلية واعية بالزمن جديدة، والتي تُضمن بكفاءة قدرات الوعي بالزمن داخل إطار SSD. بناءً على ذلك، نقترح نموذج Time-Aware Mamba for Recommendation (TiM4Rec)، الذي يقلل من تدهور الأداء في السياقات ذات الأبعاد المنخفضة لـ SSD مع الحفاظ على الكفاءة الحسابية. ويُعد هذا أول تطبيق لطريقة تعزيز واعية بالزمن مصممة خصيصًا لمعمارية Mamba في مجال التوصية التسلسلية. وتشير التجارب الواسعة المُجرَّة على ثلاث مجموعات بيانات واقعية إلى تفوق نهجنا. ويمكن الوصول إلى الكود الخاص بنموذجنا من خلال الرابط التالي: https://github.com/AlwaysFHao/TiM4Rec.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp