컨텍스트 창 (Context Window)

컨텍스트 창은 모델이 답을 생성할 때 동시에 참고할 수 있는 입력(대화 기록, 문서, 도구 설명 등)의 최대 용량이며, 보통 토큰 수로 표현된다. 이 한도를 넘는 정보는 모델이 아예 볼 수 없기 때문에, 길고 복잡한 작업일수록 창 안에 무엇을 넣을지 관리하는 일이 중요해진다.

긴 문서를 통째로 넣거나, 긴 대화를 이어가거나, 여러 도구 설명을 한꺼번에 로드해야 하는 작업을 설계할 때 이 한도를 계산해야 한다.

짧은 한두 문장짜리 질의응답에서는 컨텍스트 창 크기를 신경 쓸 필요가 거의 없다.

Claude Code가 큰 코드베이스를 다룰 때 전체 파일을 다 읽지 않고 필요한 부분만 찾아 읽거나 요약해 컨텍스트 창을 아끼는 것이 실제로 마주치는 문제다.

긴 계약서를 통째로 프롬프트에 넣으면 컨텍스트 창을 크게 잡아먹으므로, 필요한 조항만 발췌해 넣는 편이 낫다.