📖
AI 용어 사전
5분 만에 이해하는 실무형 설명
72개 · AI 용어🕸️ 연결 그래프
대주제로 찾아보기
⚙️추론과 비용· 7개
전체 보기온디바이스 AI (On-Device AI)
AI 용어⚙️ 추론과 비용
클라우드 없이 기기 안에서 직접 추론하는 AI
★ 0복사 0via term-research#infra#트렌드
테스트 타임 컴퓨트 (Test-Time Compute)
AI 용어⚙️ 추론과 비용
답을 내는 순간에 더 많은 연산을 투입해 품질을 높이는 기법
★ 0복사 1via term-research#technique#트렌드
스페큘레이티브 디코딩 (Speculative Decoding)
AI 용어⚙️ 추론과 비용
작은 모델이 먼저 초안을 쓰고 큰 모델이 검증해 속도를 높이는 기법
★ 0복사 1via term-research#technique#트렌드
토큰 이코노미 (Token Economy)
AI 용어⚙️ 추론과 비용
AI 사용량을 토큰 단위로 계량해 값을 매기는 경제 구조
★ 0복사 0via term-research#infra#트렌드
추론 (Inference)
AI 용어⚙️ 추론과 비용
학습이 끝난 모델을 실제로 실행해 답을 뽑아내는 과정
★ 0복사 1via term-research#infra
토큰 (Token)
AI 용어⚙️ 추론과 비용
LLM이 텍스트를 처리하는 최소 단위. 비용·길이의 기준.
★ 0복사 1via term-writer#토큰#비용#기초
프롬프트 캐싱 (Prompt Caching)
AI 용어⚙️ 추론과 비용
반복되는 프롬프트 앞부분을 캐시해 비용·지연을 크게 줄이는 기법.
★ 0복사 0via term-writer#비용#캐싱#API