추론 시간 스케일링은 추론 단계에서 계산 리소스를 늘려 대규모 언어 모델(LLM)의 성능을 개선하는 방법입니다. OpenAI의 o1 시리즈 모델은 추론 시간 스케일링 개념을 최초로 도입했습니다. 사고의 사슬 추론 과정의 길이를 늘림으로써 수학, 프로그래밍, 과학적 추론 등의 작업에서 상당한 성능 향상을 이루었습니다.

추론 시간 확장은 추론 과정에서 추가적인 컴퓨팅 리소스(더 많은 컴퓨팅 단계, 더 복잡한 추론 전략 등)를 할당하여 여러 결과를 평가하고 최상의 솔루션을 선택함으로써 모델 성능을 개선하는 것을 목표로 합니다. 기존의 한계를 뛰어넘어 단순히 학습 리소스를 늘려 모델 역량을 향상시키는 방식으로, 모델이 복잡한 작업에 직면했을 때에도 전략적으로 생각하고 체계적으로 문제를 해결할 수 있도록 해줍니다.