추론 시간 컴퓨트

모델을 더 크게 만드는 대신, 답할 때(추론 시점에) 계산을 더 쓰게 해서 성능을 올리는 접근입니다. 더 오래 생각하고, 여러 풀이를 시도해 보고, 자기 답을 검증하게 하는 것 — 전부 추론 시점의 추가 연산입니다.

「학습을 키우는 스케일링」이 한계 논쟁에 부딪히자 떠오른 두 번째 축입니다. 시험공부(학습)를 더 하는 대신 시험 시간(추론)을 늘려 준다고 생각하면 됩니다. 추론 모델의 성능 곡선, 「생각 시간과 정답률」 그래프가 다 이 이야기입니다.