تم استخدام طرق التعلم العميق على نطاق واسع في أنظمة التوصية الصناعية (RSs). تبنت الدراسات السابقة نموذجًا يعتمد على التضمين والشبكات العصبية متعددة الطبقات (Embedding&MLP): يتم تحويل الخصائص الأولية إلى متجهات ذات أبعاد منخفضة، والتي يتم تغذية الشبكة العصبية متعددة الطبقات بها لإصدار التوصيات النهائية. ومع ذلك، فإن معظم هذه الأعمال تقتصر على ربط الخصائص المختلفة معًا، مما يجعلها تتجاهل الطبيعة المتسلسلة لسلوك المستخدمين. في هذا البحث، نقترح استخدام نموذج Transformer القوي للكشف عن الإشارات المتسلسلة الكامنة وراء سلسلة سلوك المستخدمين لتوفير توصيات في Alibaba. أظهرت النتائج التجريبية تفوق النموذج المقترح، والذي تم نشره عبر الإنترنت على منصة Taobao وحقق تحسينات كبيرة في معدل النقر عبر الإنترنت (CTR) مقارنة باثنين من النماذج المرجعية.