인컨텍스트 러닝 (In-Context Learning)

모델의 가중치를 전혀 바꾸지 않고, 프롬프트 안에 몇 개의 예시나 지침을 함께 넣어주는 것만으로 모델이 그 자리에서 새로운 패턴이나 형식을 따라 하게 만드는 능력이다. 파인튜닝처럼 별도 학습 과정이 필요 없어 빠르게 새로운 작업에 모델을 적용할 수 있다.

몇 개의 예시만으로 원하는 출력 형식이나 스타일을 빠르게 모델에 전달하고 싶을 때 쓴다.

같은 패턴을 매번 반복해서 알려주기 번거롭거나 예시가 너무 많이 필요하다면, 차라리 파인튜닝으로 그 패턴을 모델에 영구히 학습시키는 편이 낫다.

Claude Code에서 원하는 코드 스타일의 예시 파일을 보여주며 '이 스타일대로 작성해줘'라고 요청하는 것이 인컨텍스트 러닝을 실제로 활용하는 방식이다.

이메일 답장 몇 개를 예시로 보여준 뒤 '같은 톤으로 답장을 써줘'라고 요청하면 모델이 그 톤을 그 자리에서 따라 하는 것이 인컨텍스트 러닝이다.