환각 (Hallucination)

환각은 언어 모델이 학습하지 않았거나 확인할 수 없는 내용을 그럴듯한 문장으로 만들어내는 현상이다. 모델은 "다음에 올 법한 말"을 고르도록 학습되었을 뿐 사실 여부를 따로 검증하지 않기 때문에, 존재하지 않는 논문·판례·API를 실제처럼 인용하는 일이 생긴다. 틀린 티가 나지 않는다는 점이 진짜 위험이다.

모델 답변을 근거 없이 그대로 쓰는 흐름이 있는지 점검할 때 기준이 되는 개념이다. 특히 인용·수치·코드 API 이름은 항상 확인 대상으로 둔다.

브레인스토밍이나 창작처럼 사실성이 목적이 아닌 작업에서는 이 "지어내는 능력"이 오히려 쓸모가 된다.

Claude Code가 존재하지 않는 함수나 옵션을 만들어낼 수 있으므로, 코드를 실제로 실행하거나 테스트를 돌려 확인하는 절차가 환각에 대한 실질적 방어선이 된다.

"이 주제 논문 5개 알려줘"라고 하면 제목·저자·연도까지 완벽한 형식으로 답하지만 실제로는 존재하지 않는 논문이 섞여 나오는 경우가 대표적이다.