Die Skalierung zur Inferenzzeit ist eine Methode zur Verbesserung der Leistung großer Sprachmodelle (LLMs) durch Erhöhung der Rechenressourcen während der Inferenzphase. Die Modelle der O1-Serie von OpenAI waren die ersten, die das Konzept der Inferenzzeitskalierung einführten. Durch die Verlängerung des Chain-of-Thinking-Prozesses wurden erhebliche Leistungsverbesserungen bei Aufgaben wie Mathematik, Programmierung und wissenschaftlichem Denken erzielt.

Die Erweiterung der Inferenzzeit zielt darauf ab, die Modellleistung zu verbessern, indem während des Denkprozesses zusätzliche Rechenressourcen (wie etwa mehr Rechenschritte, komplexere Denkstrategien usw.) zugewiesen werden, um mehrere Ergebnisse auszuwerten und die beste Lösung auszuwählen. Es durchbricht die traditionelle Einschränkung, die Fähigkeiten eines Modells durch eine einfache Erhöhung der Trainingsressourcen zu verbessern, und ermöglicht dem Modell, bei komplexen Aufgaben strategisch zu denken und Probleme systematisch zu lösen.