Claude Haiku 5.5는 effort 설정이 적용된 첫 번째 Haiku이며, 이 설정은 사용자가 제어할 수 있는 다른 어떤 요소보다 비용에 큰 영향을 줍니다. Artificial Analysis의 독립 실행 결과에서 Haiku 5.5는 max effort일 때 Intelligence Index 43점을, low effort일 때 29점을 기록했습니다. 또한 max는 인덱스를 완료하는 데 4억 4천만 출력 토큰을 사용했고, low는 3,200만 출력 토큰을 사용했습니다.
요약하면 이렇습니다. 대부분의 작업은 기본값인 medium에 두세요. 호출량이 많고 단순한 경로는 low로 낮추세요. 지식 노동 작업과 엄격한 지시 따르기가 필요한 작업은 high로 올리세요. xhigh와 max는 그만한 근거가 있을 때만 쓰는 설정으로 보고, 적용하기 전에 Sonnet 5.5와 비교해 보세요.
이 글의 나머지 부분에서는 각 수준의 비용, 성능 향상이 멈추는 지점, 그리고 effort를 바꿀 때 깨지거나 비싸지는 설정들을 살펴봅니다.
이 설정이 무엇인지
Claude Haiku 5.5는 low, medium, high, xhigh, max의 다섯 가지 수준을 지원합니다. 기본값은 medium인데, 이는 이례적입니다. 현재 대부분의 Claude 모델은 기본값이 high이고, Haiku 5.5와 Opus 5.5만 한 단계 낮은 값을 기본으로 씁니다. medium을 명시적으로 보내는 것은 파라미터를 생략하는 것과 같습니다.
Effort는 Haiku 4.5에서 사용하던 수동 thinking 예산을 대체합니다. thinking: {"type": "enabled", "budget_tokens": N} 형태의 요청은 이제 400 오류를 반환하므로, 이전 숫자를 그대로 가져올 수 없습니다. Anthropic의 effort 문서에 따라 output_config에서 설정합니다.
output_config={"effort": "low"}
아래 내용을 이해하는 데 필요한 세 가지 사실은 다음과 같습니다.
- Thinking은 기본적으로 켜져 있습니다. 별도로 지정하지 않으면 Haiku 5.5는 adaptive thinking을 사용합니다. Effort가 낮을수록 thinking이 줄어들고, 단순한 요청에서는 모델이 thinking을 아예 건너뛸 수도 있습니다.
- Thinking 토큰도 출력 토큰입니다. 이 토큰은
max_tokens에 포함되며, 출력 단가로 과금됩니다(100K 토큰 이하 프롬프트 기준 백만 토큰당 $0.50). - 프롬프트에서 thinking을 줄이라고 요청해도 효과가 없습니다. Anthropic의 테스트에서 모델은 프롬프트가 바로 답하라고 지시했을 때에도 여전히 thinking을 했습니다. Effort가 바로 그 조절 장치입니다.
수준별 비용
두 개의 독립적인 출처가 effort 수준별로 Haiku 5.5를 측정했습니다. 인덱스 수치는 Artificial Analysis에서, FrontierCode 수치는 Cognition이 공개한 결과 파일을 Kingy.ai가 정리한 자료에서 가져왔습니다. 두 결과 모두 여러분의 워크로드를 대변하지 않으므로, 실제 수치가 아니라 곡선의 형태를 파악하는 참고 자료로 보세요.
Artificial Analysis Intelligence Index v4.3.2(지식 노동부터 터미널 작업까지 열 가지 평가):
| Effort | 인덱스 점수 | 인덱스 실행에 쓰인 출력 토큰 | 작업당 비용 | 첫 토큰까지의 시간 |
|---|---|---|---|---|
| low | 29 | 32M | $0.02 | 9.9 s |
| medium | 34 | 54M | $0.05 | 13.4 s |
| high | 38 | 97M | $0.08 | 28.0 s |
| xhigh | 41 | 180M | $0.12 | n/a |
| max | 43 | 440M | $0.21 | n/a |
Artificial Analysis는 xhigh의 지연 시간 수치를 공개하지 않았습니다. max 수준의 지연 시간 수치는 이상치로 보여 제외했습니다.
FrontierCode 1.1 Main, Claude Code에서 실행한 Haiku 5.5:
| Effort | 종합 점수 | 롤아웃당 비용 | 롤아웃당 출력 토큰 |
|---|---|---|---|
| low | 34.8% | $0.06 | 23,868 |
| medium | 41.6% | $0.13 | 36,172 |
| high | 41.9% | $0.26 | 55,149 |
| xhigh | 45.8% | $0.63 | 100,847 |
| max | 46.4% | $1.33 | 181,387 |
비용은 센트 단위로 반올림했습니다.
두 표를 함께 보면 세 가지가 눈에 띕니다.
Low에서 medium으로 올리는 것이 가장 저렴한 상향입니다. 인덱스에서는 출력 토큰이 약 1.7배 늘어나는 대신 5점을 얻습니다. FrontierCode에서는 롤아웃당 비용이 약 2배가 되는 대신 6.8점을 얻습니다.
Medium에서 high로 올리면 효과가 없을 수도 있습니다. FrontierCode에서 high는 medium보다 0.3점 높았지만 비용은 약 2배였습니다. 더 넓은 인덱스에서는 high가 4점을 더했습니다. 여러분의 워크로드가 첫 번째 경우에 가까운지 두 번째 경우에 가까운지는 간단한 평가로 바로 확인할 수 있습니다.
상위 두 수준은 비용이 큽니다. 인덱스에서 high에서 max로 올리면 출력 토큰은 약 4.5배 늘어나고 점수는 5점 오릅니다. FrontierCode에서 max는 medium보다 약 10배 비싸면서 4.8점을 더 얻고, xhigh에서 max로 올리면 비용은 거의 두 배가 되는데 점수는 0.6점 오릅니다. Anthropic의 공식 가이드도 같은 내용을 더 간단히 말합니다. 평가에서 성능 향상이 확인되는 경우에만 xhigh와 max를 쓰고, 먼저 성능, 비용, 속도 측면에서 Sonnet 5.5와 비교하라는 것입니다.
기본값이 중요한 또 다른 이유가 있습니다. Anthropic의 출시 벤치마크는 max effort에서 실행되었습니다. 시스템 카드에 나온 medium 수준의 결과는 더 낮습니다(GDPval-AA에서 1620 대신 1277). 기본값으로 배포한다면 이 수치를 기준으로 비교해야 합니다.
워크로드별 시작점
| 워크로드 | 시작 수준 | 상향 조정 시점 |
|---|---|---|
| 분류, 라우팅, 태깅 | low | 어려운 사례에서 라벨이 흔들림 |
| 짧은 문서에서 추출 | low | 필드가 누락되거나 병합됨 |
| 채팅 및 실시간 지원 | low | 긴 대화에서 규칙이 지켜지지 않음 |
| 요약 및 컴팩션 | medium | 핵심 세부 사항이 빠짐 |
| 더 큰 모델 아래에서 동작하는 서브 에이전트 작업 | medium | 상위 모델이 작업을 다시 수행함 |
| 에이전트 코딩, 좁은 범위의 변경 | medium | 첫 시도에서 테스트가 실패함 |
| 지식 노동, 긴 에이전트 작업 | high | 평가에서 여유가 확인됨 |
이 시작점은 Haiku 5.5에 대한 Anthropic의 가이드를 따릅니다. "상향 조정" 신호는 여러분의 로그에서 살펴봐야 할 지표입니다.
다시 살펴볼 가치가 있는 행은 채팅입니다. Low는 가장 빠른 수준이라 실시간 지원에 적합합니다. 하지만 Anthropic은 지시 따르기가 가장 중요할 때, 예를 들어 사용자가 항의하는 동안에도 시스템 프롬프트의 규칙을 지켜야 하는 지원 어시스턴트에는 high를 권장합니다. 과거에 문제가 있었던 대화로 두 수준을 모두 테스트해 보세요.
Effort를 바꿀 때 무엇이 깨지거나 비싸지는지
max_tokens를 작게 잡으면 답변이 시작되기도 전에 끝날 수 있습니다. Thinking은 max_tokens에 포함됩니다. 한 단어짜리 분류용으로 잡은 50 토큰 같은 한도는 전부 thinking에 쓰일 수 있고, 그러면 응답은 텍스트 없이 stop_reason: "max_tokens"로 끝납니다. 한도를 올려 여유를 주거나 effort를 낮추세요.
대화 도중 effort를 바꾸면 캐시가 초기화됩니다. 요청 사이에 최상위 effort 값을 바꾸면 해당 대화 메시지의 프롬프트 캐시가 무효화됩니다. 에이전트가 low 대화 중간에 어려운 턴 하나만 high로 처리해야 한다면, Anthropic은 캐시를 유지하는 메시지별 effort 변경 기능을 제공합니다(베타 헤더 mid-conversation-output-config-2026-07-01, Claude API 및 Google Cloud에서 사용 가능). 이 기능을 쓰려면 thinking이 켜져 있어야 합니다. 의존하기 전에 게이트웨이가 이 베타 헤더를 전달하는지 확인해 볼 가치가 있습니다.
Thinking을 끄는 데는 한계가 있습니다. thinking: {"type": "disabled"}는 low, medium, high에서 허용됩니다. xhigh나 max에서는 400 오류를 반환합니다. Thinking을 끈 상태에서 메시지별 effort를 바꾸면 이 역시 400 오류가 반환되며, 같은 요청이 JSON 출력을 요구할 때 모델이 필요한 도구 호출을 건너뛸 수도 있습니다. Anthropic의 권장 사항은 thinking을 켜둔 채 effort 수준을 낮추라는 것입니다.
Low effort에서는 작업을 조기에 멈출 수 있습니다. 긴 코딩 에이전트 시스템 프롬프트와 함께 low로 실행하면, Haiku 5.5는 작업이 끝나기 전에 멈추고 작업을 되돌려주는 경우가 있습니다. Anthropic의 테스트에서 low에서 medium으로 올리자 조기 중단이 대략 절반으로 줄었고, 시도당 출력 토큰은 두 배 이상 늘었습니다. Haiku 5.5 프롬프트 가이드에는 같은 문제를 더 낮은 비용으로 해결하는 짧은 "완료될 때까지 계속 작업하라"는 지시문이 있습니다.
Low와 medium에서는 검증을 건너뛸 수 있습니다. 코딩 작업에서 모델이 테스트를 실행하지 않고 변경 사항이 완료되었다고 보고하는 경우가 있습니다. 프롬프트 가이드에 이를 위한 검증 문단이 있으며, 토큰 비용은 들지만 검증된 변경의 비율을 높입니다.
Xhigh에서는 빈 응답이 반환될 수 있습니다. 다중 턴 채팅에서 xhigh로 실행하면, 모델이 답변 전체를 thinking 안에 쓰고 보이는 텍스트 없이 턴을 끝내는 경우가 있습니다. xhigh로 실행한다면 빈 텍스트 블록이 있는지 확인하세요.
도구를 강제로 호출하면 thinking이 생략됩니다. Haiku 5.5는 강제 tool_choice를 허용하지만, 이 경우 응답은 thinking 없이 도구 호출부터 시작합니다. 도구를 호출하기 전에 모델이 추론해야 한다면 auto를 사용하고, 프롬프트에 언제 호출해야 하는지 명시하세요.
AIHubMix에서 직접 effort 스윕 실행하기
가장 빠르게 선택하는 방법은 실제 프롬프트 20~50개를 두세 가지 수준으로 실행해 품질, 출력 토큰 수, 지연 시간을 비교하는 것입니다. AIHubMix Claude 네이티브 엔드포인트를 통해, AIHUBMIX_API_KEY를 설정한 상태에서 진행합니다:
import os
import time
import anthropic
client = anthropic.Anthropic(
api_key=os.environ["AIHUBMIX_API_KEY"],
base_url="https://aihubmix.com",
)
prompts = [
"Summarize this support ticket in one sentence: ...",
"Extract the invoice number and total from: ...",
]
for effort in ["low", "medium", "high"]:
out_tokens, seconds = 0, 0.0
for prompt in prompts:
start = time.time()
r = client.messages.create(
model="claude-haiku-5-5",
max_tokens=8000,
output_config={"effort": effort},
messages=[{"role": "user", "content": prompt}],
)
seconds += time.time() - start
out_tokens += r.usage.output_tokens
text = next((b.text for b in r.content if b.type == "text"), "")
# Save `text` next to the prompt and grade it against your own rubric.
print(f"{effort}: {out_tokens} output tokens, {seconds:.1f}s total")
low와 high 사이에서 출력 토큰이 거의 변하지 않는다면, 설정이 모델에 전달되지 않았을 가능성이 큽니다. 게이트웨이가 전달하는 요청을 확인하세요. AIHubMix의 Haiku 5.5 페이지에서 토큰당 가격은 모든 effort 수준에서 동일하므로, 이 스윕에서 얻은 토큰 수는 곧바로 달러 비용으로 환산됩니다.
FAQ
Claude Haiku 5.5의 기본 effort 수준은 무엇인가요?
Medium입니다. 현재 대부분의 Claude 모델은 기본값이 high이므로, 다른 모델의 기본값에 의존하던 코드는 effort를 명시적으로 설정하지 않으면 Haiku 5.5를 한 단계 낮은 수준으로 실행하게 됩니다.
Thinking을 완전히 끌 수 있나요?
Low, medium, high 수준에서는 thinking을 disabled로 설정하면 됩니다. xhigh와 max에서는 오류가 반환됩니다. Anthropic은 effort를 낮추는 방식을 권장합니다. 모델이 단순한 요청에서는 스스로 thinking을 건너뛸 수 있고, 도구 호출 동작도 그대로 유지되기 때문입니다.
가장 저렴한 effort 수준은 무엇인가요?
Low입니다. Artificial Analysis의 실행에서 전체 인덱스에 사용된 출력 토큰은 약 3,200만 개였고, medium은 5,400만 개, max는 4억 4천만 개였습니다. 토큰당 가격은 모든 수준에서 같으며, 차이는 생성되는 토큰 수에서 발생합니다.
Haiku 5.5에서 max effort는 가치가 있나요?
여러분의 평가에서 근거가 확인될 때만 그렇습니다. FrontierCode에서 max는 medium보다 약 10배 비싸면서 4.8점을 더 얻었습니다. 이 시점에서 Anthropic은 Sonnet 5.5와 비교해 보라고 제안하는데, Sonnet 5.5가 더 저렴하게 같은 품질에 도달할 수 있기 때문입니다.
응답이 왜 텍스트 없이 멈추나요?
대개 답변이 시작되기 전에 thinking이 max_tokens를 모두 사용했기 때문입니다. max_tokens를 늘리거나 effort를 낮추세요. 다중 턴 채팅에서 xhigh를 쓸 때 빈 응답은 모델이 답변을 thinking 안에 넣었다는 뜻일 수도 있습니다.
Effort를 바꾸면 프롬프트 캐싱에 영향을 주나요?
네. 요청 사이에 최상위 effort를 바꾸면 해당 대화의 캐시된 메시지가 무효화됩니다. 현재 베타로 제공되는 메시지별 effort 변경을 사용하면 이를 피할 수 있습니다.
출시 벤치마크가 기본 설정에서 보는 결과와 왜 다른가요?
출시 수치는 max 노력 수준에서 측정되었습니다. medium에서는 시스템 카드에 낮은 점수가 보고되어 있으며, 예를 들어 GDPval-AA에서 1620 대신 1277입니다.
계속 읽기: Claude Haiku 5.5 시리즈
- 노력 수준은 생성하는 토큰 수를 결정합니다. 상위 구간에서 Haiku 5.5가 Haiku 4.5, GPT-6 Luna, Sonnet 5.5와 어떻게 비교되는지 알고 싶다면 Claude Haiku 5.5 vs Haiku 4.5: 10센트로 지금 무엇을 살 수 있나를 읽어 보세요.
- 사고 토큰은 출력으로 과금되며, 프롬프트 길이에 따라 요금 단가가 달라집니다. 노력 수준 선택을 월 청구액으로 환산하려면 Claude Haiku 5.5 가격: 90% 인하 뒤에 숨은 100K 기준선을 읽어 보세요.
- 노력 수준은 기존의 사고 예산을 대체하며, 기존 예산 설정은 이제 오류를 반환합니다. 그 해결 방법과 Haiku 4.5에서 전환할 때 생기는 나머지 변화는 Claude Haiku 4.5에서 5.5로 마이그레이션: 다섯 가지 400 오류와 조용한 변경 사항을 읽어 보세요.
출처
- Effort (Claude Platform Docs)
- Prompting Claude Haiku 5.5 (Claude Platform Docs)
- AIHubMix의 Claude Haiku 5.5
- Claude Haiku 5.5 Intelligence, Performance & Price Analysis (Artificial Analysis)
- Claude Haiku 5.5: Benchmarks, Specs, Sol & Luna Compared (Kingy.ai)



