Réseaux de neurones basés sur les produits pour la prédiction de la réponse des utilisateurs

La prédiction des réponses des utilisateurs, telles que les clics et les conversions, est d'une grande importance et trouve son application dans de nombreuses applications Web, notamment les systèmes de recommandation, la recherche Web et la publicité en ligne. Les données dans ces applications sont principalement catégorielles et contiennent plusieurs champs ; une représentation typique consiste à les transformer en une représentation binaire creuse de haute dimension via l'encodage one-hot. Face à l'extrême rareté, les modèles traditionnels peuvent limiter leur capacité à extraire des modèles superficiels des données, c'est-à-dire des combinaisons de caractéristiques d'ordre inférieur. D'autre part, les modèles profonds comme les réseaux neuronaux profonds ne peuvent pas être appliqués directement aux entrées de haute dimension en raison de l'espace de caractéristiques énorme. Dans cet article, nous proposons un modèle de Réseaux Neuronaux Basés sur le Produit (PNN) avec une couche d'embedding pour apprendre une représentation distribuée des données catégorielles, une couche produit pour capturer les modèles interactifs entre les catégories inter-champs, et des couches entièrement connectées supplémentaires pour explorer les interactions de caractéristiques d'ordre supérieur. Nos résultats expérimentaux sur deux grands ensembles de données réelles concernant les clics sur des publicités montrent que les PNN surpassent constamment les modèles de pointe sur diverses métriques.