Réseau de Profonde Intérêt pour la Prédiction du Taux de Clics
La prédiction du taux de clics est une tâche essentielle dans les applications industrielles, telles que la publicité en ligne. Récemment, des modèles basés sur l'apprentissage profond ont été proposés, qui suivent un paradigme similaire d'Embedding & MLP. Dans ces méthodes, de grandes caractéristiques d'entrée éparse sont d'abord mappées en vecteurs d'embedding de faible dimension, puis transformées en vecteurs de longueur fixe de manière groupée, avant d'être concaténés ensemble et introduits dans un perceptron multicouche (MLP) pour apprendre les relations non linéaires entre les caractéristiques. De cette façon, les caractéristiques utilisateur sont compressées en un vecteur de représentation de longueur fixe, indépendamment des publicités candidates. L'utilisation d'un vecteur de longueur fixe peut constituer une bouteille d'étranglement, rendant difficile pour les méthodes Embedding & MLP de capturer efficacement les intérêts diversifiés des utilisateurs à partir de comportements historiques riches.Dans cet article, nous proposons un nouveau modèle : le Réseau d'Intérêts Profonds (Deep Interest Network - DIN) qui relève ce défi en concevant une unité d'activation locale pour apprendre la représentation des intérêts utilisateur à partir des comportements historiques en fonction d'une publicité spécifique. Ce vecteur de représentation varie selon les différentes publicités, améliorant considérablement la capacité expressive du modèle. De plus, nous développons deux techniques : une régularisation consciente des mini-batchs et une fonction d'activation adaptative aux données, qui peuvent aider à former des réseaux neuronaux profonds industriels avec plusieurs centaines de millions de paramètres.Des expériences menées sur deux jeux de données publics ainsi qu'un jeu de données réel d'Alibaba comprenant plus de 2 milliards d'échantillons ont démontré l'efficacité des approches proposées, qui atteignent des performances supérieures par rapport aux méthodes les plus avancées actuellement disponibles. Le DIN est maintenant déployé avec succès dans le système de publicité affichée en ligne chez Alibaba, où il assure le flux principal du trafic.