Merkmalsgenerierung durch konvolutive Neuronale Netze für die Click-Through-Rate-Vorhersage

Die Vorhersage der Click-Through Rate (CTR) ist eine wichtige Aufgabe in Empfehlungssystemen, die darauf abzielt, die Wahrscheinlichkeit eines Benutzers zu schätzen, auf ein bestimmtes Element zu klicken. In jüngerer Zeit wurden viele tiefe Modelle vorgeschlagen, um niedrigere und höhere Ordnungsinteraktionen aus den ursprünglichen Merkmalen zu lernen. Allerdings sind nützliche Interaktionen in der Regel dünn besetzt, was es schwierig macht, sie unter einer großen Anzahl von Parametern effektiv mit tiefen neuronalen Netzen (DNN) zu lernen. In realen Szenarien können künstliche Merkmale die Leistung von tiefen Modellen (wie z.B. Wide & Deep Learning) verbessern, aber das Feature Engineering ist teuer und erfordert Fachwissen, wodurch es in verschiedenen Szenarien unpraktikabel wird. Daher ist es notwendig, den Merkmalsraum automatisch zu erweitern. In dieser Arbeit schlagen wir ein neues Modell zur Merkmalsgenerierung durch konvolutorische Neuronale Netze (FGCNN) vor, das zwei Komponenten umfasst: Merkmalsgenerierung und Tiefes Klassifikationsmodell. Die Merkmalsgenerierung nutzt die Stärken des CNNs, um lokale Muster zu generieren und diese neu zu kombinieren, um neue Merkmale zu erzeugen. Das Tiefes Klassifikationsmodell übernimmt die Struktur des IPNNs (Inner Product Neural Network), um Interaktionen im erweiterten Merkmalsraum zu lernen. Experimentelle Ergebnisse auf drei großen Datensätzen zeigen, dass FGCNN neun state-of-the-art-Modelle signifikant übertreffen kann. Darüber hinaus wird bei der Anwendung einiger state-of-the-art-Modelle als Tiefes Klassifikationsmodell stets eine bessere Leistung erzielt, was die große Kompatibilität unseres FGCNN-Modells unterstreicht. Diese Arbeit erkundet eine neue Richtung für CTR-Vorhersagen: Es ist äußerst nützlich, die Lernschwierigkeiten von DNNs durch automatische Identifizierung wichtiger Merkmale zu reduzieren.