Positional Encoding ist nicht dasselbe wie Kontext: Eine Studie zu Positional Encoding für sequenzielle Empfehlungen

Die rasanten Fortschritte im Bereich von Streaming-Medien und E-Commerce haben die Entwicklung von Empfehlungssystemen, insbesondere von sequenziellen Empfehlungssystemen (Sequential Recommendation Systems, SRS), vorangetrieben. Diese Systeme nutzen die Interaktionshistorien der Nutzer, um zukünftige Präferenzen vorherzusagen. Während in jüngster Forschung verstärkt auf architektonische Innovationen wie Transformer-Blöcke und Merkmalsextraktion fokussiert wurde, erhielten Positionscodierungen – entscheidend für die Erfassung zeitlicher Muster – bisher weniger Aufmerksamkeit. Häufig werden diese Codierungen mit kontextuellen Informationen, beispielsweise dem zeitlichen Fußabdruck (temporal footprint), verwechselt, wobei frühere Arbeiten diese als austauschbar betrachten. In dieser Arbeit wird die kritische Unterscheidung zwischen zeitlichem Fußabdruck und Positionscodierungen hervorgehoben und nachgewiesen, dass letztere einzigartige relationale Hinweise zwischen Items liefern, die allein der zeitliche Fußabdruck nicht bereitstellen kann. Anhand umfangreicher Experimente an acht Amazon-Datensätzen und deren Untermengen bewerten wir den Einfluss verschiedener Codierungsansätze auf Leistungsmaße und Trainingsstabilität. Wir stellen neue Positionscodierungen vor und untersuchen Integrationsstrategien, die sowohl die Leistung als auch die Stabilität verbessern und die bisherigen Stand der Technik bei der Erstveröffentlichung dieses Werks übertreffen. Wichtig ist, dass wir zeigen, dass die Auswahl der geeigneten Codierung nicht nur entscheidend für eine bessere Leistung ist, sondern auch unerlässlich für die Entwicklung robuster und zuverlässiger SRS-Modelle.