FiBiNet++: Reduzierung der Modellgröße durch eine Low-Rank-Feature-Interaktionsschicht für die CTR-Vorhersage

Die Schätzung der Klickrate (Click-Through Rate, CTR) ist zu einer der grundlegendsten Aufgaben in vielen realen Anwendungen geworden, wobei verschiedene tiefe Modelle vorgeschlagen wurden. Einige Studien haben gezeigt, dass FiBiNet eines der leistungsstärksten Modelle ist und alle anderen Modelle auf dem Avazu-Datensatz übertrifft. Allerdings behindert die große Modellgröße von FiBiNet eine breitere Anwendung. In diesem Artikel stellen wir ein neuartiges Modell, FiBiNet++, vor, das die Architektur von FiBiNet neu gestaltet, wodurch die Modellgröße erheblich reduziert wird, gleichzeitig jedoch die Leistung weiter verbessert wird. Eine zentrale Technik ist unsere eingeführte „Low-Rank-Schicht“, die sich auf die Merkmalsinteraktion konzentriert und als entscheidender Treiber für eine hervorragende Kompressionsrate der Modelle fungiert. Umfangreiche Experimente an drei öffentlichen Datensätzen zeigen, dass FiBiNet++ die nicht-embedding-basierten Modellparameter von FiBiNet um das 12- bis 16-fache reduziert. Gleichzeitig erzielt FiBiNet++ im Vergleich zu aktuellen state-of-the-art-Methoden zur CTR-Schätzung, einschließlich FiBiNet, signifikante Leistungsverbesserungen.