HyperAIHyperAI

Command Palette

Search for a command to run...

FiBiNet++: Reduzierung der Modellgröße durch eine Low-Rank-Feature-Interaktionsschicht für die CTR-Vorhersage

Pengtao Zhang Zheng Zheng Junlin Zhang

Zusammenfassung

Die Schätzung der Klickrate (Click-Through Rate, CTR) ist zu einer der grundlegendsten Aufgaben in vielen realen Anwendungen geworden, wobei verschiedene tiefe Modelle vorgeschlagen wurden. Einige Studien haben gezeigt, dass FiBiNet eines der leistungsstärksten Modelle ist und alle anderen Modelle auf dem Avazu-Datensatz übertrifft. Allerdings behindert die große Modellgröße von FiBiNet eine breitere Anwendung. In diesem Artikel stellen wir ein neuartiges Modell, FiBiNet++, vor, das die Architektur von FiBiNet neu gestaltet, wodurch die Modellgröße erheblich reduziert wird, gleichzeitig jedoch die Leistung weiter verbessert wird. Eine zentrale Technik ist unsere eingeführte „Low-Rank-Schicht“, die sich auf die Merkmalsinteraktion konzentriert und als entscheidender Treiber für eine hervorragende Kompressionsrate der Modelle fungiert. Umfangreiche Experimente an drei öffentlichen Datensätzen zeigen, dass FiBiNet++ die nicht-embedding-basierten Modellparameter von FiBiNet um das 12- bis 16-fache reduziert. Gleichzeitig erzielt FiBiNet++ im Vergleich zu aktuellen state-of-the-art-Methoden zur CTR-Schätzung, einschließlich FiBiNet, signifikante Leistungsverbesserungen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
FiBiNet++: Reduzierung der Modellgröße durch eine Low-Rank-Feature-Interaktionsschicht für die CTR-Vorhersage | Paper | HyperAI