Les méthodes basées sur l'apprentissage profond ont été largement utilisées dans les systèmes de recommandation industriels (RSs). Les travaux précédents adoptaient un paradigme Embedding&MLP : les caractéristiques brutes étaient plongées dans des vecteurs de faible dimension, qui étaient ensuite transmis à un MLP pour les recommandations finales. Cependant, la plupart de ces travaux ne faisaient que concaténer différentes caractéristiques, ignorant ainsi la nature séquentielle des comportements des utilisateurs. Dans cet article, nous proposons d'utiliser le puissant modèle Transformer pour capturer les signaux séquentiels sous-jacents aux séquences de comportement des utilisateurs, dans le cadre des recommandations chez Alibaba. Les résultats expérimentaux démontrent la supériorité du modèle proposé, qui a ensuite été déployé en ligne sur Taobao et a obtenu des améliorations significatives du taux de clic en ligne (CTR) par rapport à deux modèles de référence.