추론 모델 (Reasoning Model)

추론 모델은 질문을 받으면 바로 답을 내놓는 대신, 눈에 보이지 않는 생각 토큰을 먼저 길게 생성하며 문제를 단계별로 풀어본 뒤 최종 답을 내는 모델이다. 여러 풀이 경로를 시도하고 스스로 검산도 하기 때문에 수학, 코딩, 복잡한 계획 수립에서 성능이 좋아지지만 그만큼 느리고 비용도 더 든다.

수학 문제, 복잡한 코딩, 여러 단계를 거쳐야 하는 계획 수립처럼 깊은 사고가 필요한 작업에 쓴다.

간단한 사실 질문이나 짧은 대화에는 추론 모델을 쓰면 속도만 느려지고 비용만 늘어난다.

Claude Code에서 복잡한 버그를 진단하거나 아키텍처를 설계할 때는 확장 사고(extended thinking)를 켠 추론 모델을 쓰는 것이 유리하다.

OpenAI의 GPT-5는 빠른 모델과 깊이 생각하는 모델을 라우터가 상황에 맞게 골라 쓰는 방식을 택했다.