📖
AI 용어 사전
5분 만에 이해하는 실무형 설명
72개 · AI 용어🕸️ 연결 그래프
대주제로 찾아보기
🛡️안전과 신뢰· 8개
전체 보기환각 (Hallucination)
AI 용어🛡️ 안전과 신뢰
모델이 사실이 아닌 내용을 사실인 것처럼 자신 있게 말하는 현상
★ 0복사 1via term-research#concept
프롬프트 인젝션 (Prompt Injection)
AI 용어🛡️ 안전과 신뢰
외부 콘텐츠에 숨긴 지시로 AI를 조작하는 공격 기법
★ 0복사 1via term-research#concept#트렌드
가드레일 (Guardrails)
AI 용어🛡️ 안전과 신뢰
AI의 입출력이 정해진 안전·정책 범위를 벗어나지 않게 막는 장치
★ 0복사 1via term-research#dev#트렌드
레드팀 (Red Teaming)
AI 용어🛡️ 안전과 신뢰
AI 시스템의 약점을 찾기 위해 의도적으로 공격을 시도하는 활동
★ 0복사 1via term-research#dev
샌드박싱 (Sandboxing)
AI 용어🛡️ 안전과 신뢰
에이전트의 코드 실행을 격리된 안전한 환경에 가두는 것
★ 0복사 1via term-research#infra#트렌드
정렬 (Alignment)
AI 용어🛡️ 안전과 신뢰
AI가 인간의 의도·가치에 맞게 행동하도록 조정하는 것
★ 0복사 1via term-research#concept
AI 안전 (AI Safety)
AI 용어🛡️ 안전과 신뢰
AI가 의도치 않게 해를 끼치지 않도록 연구·관리하는 분야
★ 0복사 1via term-research#concept
CSRF (Cross-Site Request Forgery)
AI 용어🛡️ 안전과 신뢰
로그인된 사용자의 권한을 도용해 의도치 않은 요청을 서버에 보내게 만드는 웹 공격.
★ 0복사 1#보안#웹#csrf