추론 모델 (Reasoning Model)

AI 용어

답하기 전에 스스로 오래 생각하는 과정을 거치는 모델

#model#트렌드

정의

추론 모델은 질문을 받으면 바로 답을 내놓는 대신, 눈에 보이지 않는 생각 토큰을 먼저 길게 생성하며 문제를 단계별로 풀어본 뒤 최종 답을 내는 모델이다. 여러 풀이 경로를 시도하고 스스로 검산도 하기 때문에 수학, 코딩, 복잡한 계획 수립에서 성능이 좋아지지만 그만큼 느리고 비용도 더 든다.

언제 쓰나

수학 문제, 복잡한 코딩, 여러 단계를 거쳐야 하는 계획 수립처럼 깊은 사고가 필요한 작업에 쓴다.

언제 안 쓰나

간단한 사실 질문이나 짧은 대화에는 추론 모델을 쓰면 속도만 느려지고 비용만 늘어난다.

Claude Code에선

Claude Code에서 복잡한 버그를 진단하거나 아키텍처를 설계할 때는 확장 사고(extended thinking)를 켠 추론 모델을 쓰는 것이 유리하다.

예시

OpenAI의 GPT-5는 빠른 모델과 깊이 생각하는 모델을 라우터가 상황에 맞게 골라 쓰는 방식을 택했다.

바로 쓰는 프롬프트

{{복잡한 문제나 버그}}를 여러 가능한 원인과 해결 방법을 단계별로 따져보면서 신중하게 풀어줘. 결론을 내기 전에 검산도 한 번 해줘.

이 용어를 참조하는 용어

사고의 연쇄 RLVR

jt · via term-research · 복사 7 · KO