온도(Temperature)
온도(Temperature)는 LLM이 다음 토큰을 예측할 때 확률 분포의 '날카로움'을 조절하는 파라미터입니다. 값이 낮을수록 가장 확률 높은 토큰을 선택해 일관되고 예측 가능한 응답을 만들고, 값이 높을수록 덜 확률 높은 토큰도 샘플링해 창의적이고 다양한 응답을 만듭니다. 일반적으로 0에서 2 사이의 값을 지원합니다.
온도(Temperature)는 LLM이 다음 토큰을 예측할 때 확률 분포의 '날카로움'을 조절하는 파라미터입니다. 값이 낮을수록 가장 확률 높은 토큰을 선택해 일관되고 예측 가능한 응답을 만들고, 값이 높을수록 덜 확률 높은 토큰도 샘플링해 창의적이고 다양한 응답을 만듭니다. 일반적으로 0에서 2 사이의 값을 지원합니다.
왜 중요한가
같은 프롬프트를 주어도 온도를 0.2에서 1.0으로 바꾸면 결과물의 톤, 길이, 창의성이 완전히 달라집니다. AI로 블로그 초안을 만들 때 온도가 너무 낮으면 기계적이고 뻔한 문장이, 너무 높으면 사실 오류와 할루시네이션이 급증합니다. 프롬프트 엔지니어링과 함께 온도를 의도적으로 설정하는 것이 안정적인 AI 콘텐츠 품질의 전제입니다.
값 구간별 특성
| 온도 | 특성 | 적합한 과제 |
|---|---|---|
| 0.0 ~ 0.2 | 결정적·반복 가능 | 분류, 추출, 코드, 사실 질의 |
| 0.3 ~ 0.5 | 일관적·약간의 변화 | 요약, 번역, 구조화된 답변 |
| 0.6 ~ 0.8 | 자연스러운 창의성 | 블로그 초안, 이메일, 마케팅 카피 |
| 0.9 ~ 1.2 | 다양성·창의성 | 아이디에이션, 브레인스토밍 |
| 1.3 이상 | 혼란·할루시네이션 증가 | 실무에서는 거의 사용 안 함 |
온도 vs Top-p
온도와 함께 자주 쓰이는 파라미터가 Top-p(nucleus sampling) 입니다. Top-p는 누적 확률이 p에 도달할 때까지의 토큰만 후보로 고려해 무작위성을 제한합니다.
- Temperature만 조절: 전체 확률 분포의 날카로움을 바꿉니다.
- Top-p만 조절: 상위 후보 풀의 크기를 제한합니다.
- 둘 다 조절하지 말 것: OpenAI·Anthropic 모두 둘 중 하나만 조정하는 것을 권장합니다. 둘을 동시에 바꾸면 예측 가능성이 크게 떨어집니다.
콘텐츠 작성 상황별 권장값
사실 기반 포스트(튜토리얼, 가이드): 0.2 ~ 0.4. 정확성 우선, 창의성 최소화.
블로그 초안(에세이, 분석): 0.6 ~ 0.7. 자연스러운 문장과 일관된 톤.
아이디에이션(제목 후보, 카피 변형): 0.9 ~ 1.0. 다양성이 핵심이므로 높게.
요약·번역: 0.0 ~ 0.3. 재현성이 중요.
FAQ·정의: 0.0 ~ 0.2. 동일 질문에 항상 같은 답이 나와야 함.
주의점
할루시네이션과의 관계: 온도가 높을수록 모델은 학습 분포 바깥의 토큰을 더 자주 샘플링하므로 사실 오류 확률이 증가합니다. 할루시네이션 민감 과제에서는 무조건 온도를 낮춥니다.
재현성: 온도 0이어도 완전히 결정적이지는 않습니다. 동일 결과가 필요하면 seed 파라미터를 함께 고정해야 합니다.
기본값 확인: 각 API의 기본 온도는 다릅니다(OpenAI 1.0, Anthropic 1.0, Google 1.0 근처). 아무 설정 없이 호출하면 생각보다 창의적인 결과가 나옵니다.
Sources:
- Temperature in LLMs - OpenAI Platform Docs
- Sampling Parameters Explained - Anthropic
- Temperature and Top-p Guide - Hugging Face
관련 인블로그 게시물
inblog에서 활용하기
inblog 에디터에서 AI 초안 생성 기능을 사용할 때, 포스트 종류에 따라 온도를 다르게 설정하는 것이 효율적입니다. 튜토리얼·가이드처럼 정확성이 중요한 포스트는 낮은 온도(0.3 이하), 에세이·브랜드 스토리처럼 목소리와 창의성이 중요한 포스트는 중간 온도(0.6~0.7)로 설정하면, 한 번의 생성으로도 편집 부담이 크게 줄어드는 초안을 얻을 수 있습니다.