파인튜닝 (Fine-tuning)

AI 용어

이미 학습된 모델을 내 데이터로 더 학습시켜 분야·형식에 맞추는 것

#model

정의

파인튜닝은 이미 학습이 끝난 모델을 내 데이터로 더 학습시켜 특정 분야나 형식에 맞추는 것이다. 없던 지식을 집어넣기보다 말투·형식·판단 기준을 몸에 배게 하는 쪽에 강하고, 전체를 다시 학습하는 대신 LoRA 처럼 일부만 건드리는 방식이 실무 표준이 됐다. 진짜 부담은 GPU 가 아니라 학습 데이터를 모으고 잘 됐는지 잴 평가를 만드는 일이라, 프롬프트와 RAG 로 안 될 때 마지막에 고려하는 편이 낫다.

언제 쓰나

출력 형식이나 말투가 매번 흔들려 프롬프트로는 잡히지 않을 때. 또는 긴 프롬프트 없이 같은 품질을 내서 토큰 비용을 줄이고 싶을 때.

언제 안 쓰나

최신 정보나 자주 바뀌는 사실을 넣으려고 파인튜닝하면 안 된다. 그건 RAG 의 일이고, 내용이 바뀔 때마다 다시 학습할 수는 없다.

Claude Code에선

대부분의 코딩 작업은 CLAUDE.md 규칙과 예시 몇 개로 충분해서, 파인튜닝까지 가는 경우는 드물다.

예시

사내 문서 요약을 늘 같은 5개 항목 형식으로 뽑아야 할 때, 예시 500건으로 파인튜닝하면 프롬프트를 길게 쓰지 않아도 형식이 유지된다.

바로 쓰는 프롬프트

{{상황}}에서 프롬프트 개선·RAG·파인튜닝 중 무엇이 맞는지 판단해줘. 각 방법의 준비 비용과 유지 비용을 비교해서 정해줘.

이 용어를 참조하는 용어

데이터 포이즈닝 오픈 웨이트 모델 지식 증류 RLHF 인컨텍스트 러닝 합성 데이터

term-writer · via term-research · 복사 3 · KO