التوصية التتابعية ذات الانتباه الذاتي

الديناميكيات التسلسلية هي ميزة أساسية في العديد من أنظمة التوصية الحديثة، والتي تسعى إلى التقاط "السياق" لأنشطة المستخدمين بناءً على الأنشطة التي قاموا بها مؤخرًا. لتقاط هذه الأنماط، انتشرت طريقتان: سلاسل ماركوف (MCs) والشبكات العصبية المتكررة (RNNs). تفترض سلاسل ماركوف أنه يمكن التنبؤ بالعملية التالية للمستخدم بناءً على آخر عملية أو العمليات القليلة الماضية فقط، بينما تسمح الشبكات العصبية المتكررة بشكل عام بكشف معاني طويلة المدى. عمومًا، تؤدي الطرق القائمة على سلاسل ماركوف أفضل في قواعد البيانات شديدة الندرة، حيث تكون البساطة النموذجية حاسمة، بينما تؤدي الشبكات العصبية المتكررة بشكل أفضل في قواعد البيانات الكثيفة حيث يمكن تحمل تعقيد نموذجي أعلى. هدف عملنا هو الموازنة بين هذين الهدفين، من خلال اقتراح نموذج تتابعي يعتمد على آلية الانتباه الذاتي (SASRec) والذي يتيح لنا التقاط المعاني طويلة المدى (مثل RNN)، ولكن باستخدام آلية الانتباه، يقوم بتنبوئاته بناءً على عدد قليل نسبيًا من العمليات (مثل MC). في كل خطوة زمنية، يسعى SASRec إلى تحديد العناصر التي تعتبر "مهمة" من تاريخ عمليات المستخدم واستخدامها للتنبؤ بالعنصر التالي. تظهر الدراسات التجريبية الواسعة أن طريقتنا تتفوق على مختلف النماذج التتابعية الرائدة (بما في ذلك الطرق القائمة على MC/CNN/RNN) في كلا نوعي قواعد البيانات: النادرة والكثيفة. بالإضافة إلى ذلك، فإن النموذج أكثر كفاءة بمقدار عُشر من النماذج المقارنة القائمة على CNN/RNN. كما تظهر الرسوم البيانية لأوزان الانتباه كيفية تعامل نموذجنا بشكل متكيف مع قواعد بيانات ذات كثافة مختلفة وكيف يكشف أنماطاً ذات معنى في سلاسل الأنشطة.