Abstract

Trotz des wachsenden Interesses an der Nachahmung des skalierbaren Erfolgs großer Sprachmodelle (Large Language Models, LLMs) in industriellen Such- und Empfehlungssystemen bleiben die meisten bestehenden Ansätze auf die einfache Übertragung von Transformer-Architekturen beschränkt, die lediglich geringfügige Verbesserungen gegenüber starken Deep-Learning-Empfehlungsmodellen (Deep Learning Recommendation Models, DLRMs) erzielen. Aus Sicht der grundlegenden Prinzipien beruhen die Durchbrüche von LLMs nicht nur auf ihren Architekturen, sondern auch auf zwei komplementären Mechanismen: Context Engineering, das rohe Eingabeanfragen durch kontextuelle Hinweise bereichert, um die Fähigkeiten des Modells besser zu aktivieren, sowie Multi-Step-Reasoning, das die Modellausgaben iterativ durch Zwischenüberlegungspfade verfeinert. Diese beiden Mechanismen und ihr Potenzial für erhebliche Verbesserungen bleiben in industriellen Ranking-Systemen jedoch weitgehend unerforscht.In diesem Paper stellen wir OnePiece vor, einen einheitlichen Rahmen, der LLM-artiges Context Engineering und Reasoning nahtlos in sowohl Retrieval- als auch Ranking-Modelle industrieller kaskadierter Pipelines integriert. OnePiece basiert auf einem reinen Transformer-Backbone und führt drei zentrale Innovationen ein: (1) strukturiertes Context Engineering, das Interaktionsverläufe mit Präferenz- und Szenariosignalen erweitert und diese in eine strukturierte, tokenisierte Eingabefolge für Retrieval und Ranking einheitlich integriert; (2) blockweise latente Reasoning, das dem Modell die Mehrschritt-Verfeinerung von Repräsentationen ermöglicht und die Reasoning-Bandbreite durch die Blockgröße skaliert; (3) progressiv mehrfachzielorientiertes Training, das Benutzerfeedback-Ketten nutzt, um die Reasoning-Schritte während des Trainings effektiv zu überwachen. OnePiece wurde in der zentralen personalisierten Suchanwendung von Shopee eingeführt und erzielte konsistente Online-Gewinne in verschiedenen Schlüsselgeschäfts-Kennzahlen, darunter über +2 % GMV pro Nutzer (GMV/UU) sowie eine Steigerung des Werbeeinkommens um +2,90 %.