STEC: See-Through Transformer-basierter Encoder für die CTR-Vorhersage

Die Vorhersage der Klickrate (Click-Through Rate, CTR) spielt eine zentrale Rolle in Online-Werbung und Empfehlungssystemen, da die Leistung der CTR-Vorhersage direkt die Gesamtzufriedenheit der Nutzer sowie den von Unternehmen generierten Umsatz beeinflusst. Dennoch bleibt die CTR-Vorhersage ein aktives Forschungsfeld, da sie die präzise Modellierung der Nutzerpräferenzen basierend auf spärlichen und hochdimensionalen Merkmalen erfordert, wobei höhere Ordnungen von Merkmalsinteraktionen unterschiedliche Ergebnisse hervorrufen können.Die meisten CTR-Vorhersagemodelle beruhen auf einer einzigen Fusions- und Interaktionslernstrategie. Wenige Modelle, die mehrere Interaktionsmodellierungsansätze nutzen, behandeln jede Interaktion als eigenständig. In diesem Artikel stellen wir ein neuartiges Modell namens STEC vor, das die Vorteile mehrerer Interaktionslernansätze in einer einheitlichen Architektur vereint. Zudem führt unser Modell Residual-Verbindungen zwischen Interaktionen verschiedener Ordnungen ein, was die Leistung steigert, indem niedrigere Interaktionsordnungen direkt auf die Vorhersagen einwirken können. Anhand umfangreicher Experimente auf vier realen Datensätzen zeigen wir, dass STEC bestehende state-of-the-art-Ansätze für die CTR-Vorhersage übertrifft, was auf seine höhere Ausdruckskraft zurückzuführen ist.