테스트 타임 컴퓨트 (Test-Time Compute)

모델을 더 크게 학습시키는 대신, 실제로 답을 낼 때 더 오래 생각하게 하거나 여러 풀이를 시도해 가장 나은 것을 고르는 방식으로 연산을 추가 투입해 성능을 높이는 접근이다. '학습에 돈을 쓸 것이냐 추론에 돈을 쓸 것이냐'는 새로운 선택지를 만든 개념으로, 추론 모델과 확장된 사고가 이를 구현한 대표 사례다.

어렵고 복잡한 문제를 정확하게 풀어야 할 때, 응답 시간이나 비용보다 정확도가 중요할 때 테스트 타임 컴퓨트를 늘린다.

단순한 질문이나 즉답이 필요한 상황에서는 불필요하게 오래 생각하게 하면 비용과 지연만 늘어난다.

Claude Code의 확장된 사고 기능이 테스트 타임 컴퓨트의 실제 구현으로, 복잡한 버그 추적이나 설계 작업에서 사고 시간을 늘리면 더 나은 결과를 얻을 수 있다.

추론 모델이 어려운 수학 문제를 풀 때 여러 풀이 경로를 시도해보고 비교한 뒤 답을 내는 것이 테스트 타임 컴퓨트의 예다.