파라미터 (Parameter)
AI 용어학습으로 값이 정해지는 모델 내부의 숫자. 흔히 말하는 "70B"가 이 개수다
#model
정의
파라미터는 모델이 학습하면서 스스로 값을 맞춰가는 내부 숫자(가중치)다. "70B 모델"은 이 숫자가 700억 개라는 뜻이고, 개수가 많을수록 담을 수 있는 지식과 표현력이 커지지만 그만큼 메모리와 계산이 든다. 다만 파라미터 수만으로 성능이 정해지지는 않는다 — 학습 데이터의 양과 질, 학습 방법이 함께 좌우한다.
언제 쓰나
모델을 어디에 올릴지 정할 때 기준이 된다. 파라미터 수에 정밀도를 곱하면 필요한 메모리가 대략 나온다.
언제 안 쓰나
성능을 비교할 때 파라미터 수만 보는 것은 위험하다. 작게 잘 학습된 모델이 큰 모델을 이기는 일이 흔하다.
Claude Code에선
로컬에서 보조 모델을 돌릴지 API를 쓸지 정할 때, 파라미터 수와 내 장비의 메모리를 먼저 견줘보게 된다.
예시
바로 쓰는 프롬프트
{{모델 이름}}의 파라미터 수와 정밀도를 기준으로 필요한 GPU 메모리를 계산해줘. 양자화했을 때도 같이 비교해줘.jt · via term-research · 복사 0 · KO