Claude Haiku 5.5-inspanningsniveaus: medium is de standaard, low is vaak genoeg

AIHubMix8 min leestijd
Claude Haiku 5.5-inspanningsniveaus: medium is de standaard, low is vaak genoeg

Claude Haiku 5.5 is de eerste Haiku met een inspanningsinstelling, en deze instelling bepaalt meer van je kosten dan alles andere wat je kunt regelen. In de onafhankelijke tests van Artificial Analysis scoorde Haiku 5.5 op max-inspanning 43 op zijn Intelligence Index en op low-inspanning 29. Max gebruikte ook 440 miljoen outputtokens om de index te doorlopen; low gebruikte 32 miljoen.

Het korte antwoord is dus: laat het meeste werk op de standaard, medium. Zet eenvoudige routes met veel volume op low. Verhoog kennistaken en strikte instructiebewaking naar high. Behandel xhigh en max als instellingen waarvoor je bewijs nodig hebt, en vergelijk ze met Sonnet 5.5 voordat je ze kiest.

De rest van dit bericht laat zien wat elk niveau kost, waar hoger instellen ophoudt lonend te zijn, en welke instellingen breken of duur worden wanneer je de inspanning wijzigt.

Wat de instelling doet

Claude Haiku 5.5 ondersteunt vijf niveaus: low, medium, high, xhigh en max. De standaard is medium, wat ongebruikelijk is: de meeste huidige Claude-modellen gebruiken high als standaard, en alleen Haiku 5.5 en Opus 5.5 zitten een niveau lager. Het meegeven van medium is hetzelfde als de parameter weglaten.

Inspanning vervangt het handmatige denkbudget dat Haiku 4.5 gebruikte. Een verzoek met thinking: {"type": "enabled", "budget_tokens": N} geeft nu een 400, dus er is geen oud getal om over te nemen. Volgens de effortdocumentatie van Anthropic stel je het in via output_config:

output_config={"effort": "low"}

Drie feiten vormen de basis van alles hieronder:

  • Denken staat standaard aan. Haiku 5.5 gebruikt adaptief denken, tenzij je anders aangeeft. Lagere inspanning betekent minder denken, en bij eenvoudige verzoeken kan het model het denken helemaal overslaan.
  • Denktokens zijn outputtokens. Ze tellen mee voor max_tokens en worden gefactureerd tegen het outputtarief (2,50 dollar per miljoen voor prompts tot 100K tokens)
  • Vragen om minder denken in de prompt werkt niet. In de tests van Anthropic dacht het model nog steeds na wanneer de prompt het opdracht gaf direct te antwoorden. Inspanning is de hefboom.

Wat elk niveau kost

Twee onafhankelijke bronnen hebben Haiku 5.5 over de inspanningsniveaus gemeten. De indexcijfers komen van Artificial Analysis; de FrontierCode-cijfers komen uit het openbare resultatenbestand van Cognition, zoals samengesteld door Kingy.ai. Geen van beide dekt jouw workload, dus behandel ze als de vorm van de curve, niet als jouw cijfers.

Artificial Analysis Intelligence Index v4.3.2 (tien evaluaties, van kennistaken tot terminaltaken):

Inspanning Indexscore Outputtokens voor de index Kosten per taak Tijd tot eerste token
low 29 32M $0.02 9.9 s
medium 34 54M $0.05 13.4 s
high 38 97M $0.08 28.0 s
xhigh 41 180M $0.12 n/a
max 43 440M $0.21 n/a

Artificial Analysis heeft geen latentiecijfer gepubliceerd voor xhigh. Het latentiecijfer voor max-inspanning leek afwijkend, dus het is weggelaten.

FrontierCode 1.1 Main, Haiku 5.5 draaiend in Claude Code:

Inspanning Samengestelde score Kosten per rollout Outputtokens per rollout
low 34.8% $0.06 23,868
medium 41.6% $0.13 36,172
high 41.9% $0.26 55,149
xhigh 45.8% $0.63 100,847
max 46.4% $1.33 181,387

Kosten zijn afgerond op de cent.

Lees de twee tabellen samen en drie dingen vallen op.

Van low naar medium is de goedkoopste stap omhoog. Op de index levert het 5 punten op voor ongeveer 1,7 keer de outputtokens. Op FrontierCode levert het 6,8 punten op voor ongeveer twee keer de kosten per rollout.

Van medium naar high kan vlak zijn. Op FrontierCode scoorde high 0,3 punt hoger dan medium en kostte het ongeveer twee keer zoveel. Op de bredere index voegde high wel 4 punten toe. Of jouw workload op het eerste of tweede geval lijkt, is precies wat een korte evaluatie je vertelt.

De twee hoogste niveaus zijn duur. Van high naar max op de index stijgen de outputtokens ongeveer 4,5 keer voor 5 punten. Op FrontierCode kost max ongeveer tien keer wat medium kost voor 4,8 punten extra, en de stap van xhigh naar max verdubbelt de kosten ongeveer voor 0,6 punt. De eigen richtlijn van Anthropic zegt hetzelfde in eenvoudigere woorden: gebruik xhigh en max alleen waar je evaluaties een verbetering laten zien, en vergelijk ze eerst met Sonnet 5.5 op prestaties, kosten en snelheid.

Nog een reden waarom de standaard ertoe doet: de launch-benchmarks van Anthropic zijn op max-inspanning gedraaid. De resultaten van het systeemkaartje voor medium-inspanning zijn lager (1277 op GDPval-AA in plaats van 1620). Als je met de standaard uitrolt, zijn dat de cijfers om mee te vergelijken.

Waar je begint, per workload

Workload Begin bij Omhoog wanneer
Classificatie, routering, tagging low Labels verschuiven bij moeilijke gevallen
Extractie uit korte documenten low Velden worden gemist of samengevoegd
Chat en live support low Regels glippen weg in lange chats
Samenvattingen en compactie medium Belangrijke details vallen weg
Subagent-werk onder een groter model medium Het leidende model doet het werk opnieuw
Agentische codering, beperkte wijzigingen medium Tests falen bij de eerste poging
Kennistaken, lange agenttaken high Evaluaties tonen ruimte voor verbetering

Deze startpunten volgen de richtlijnen van Anthropic voor Haiku 5.5; de signalen om omhoog te gaan zijn wat je in je eigen logs moet in de gaten houden.

De ene rij die een tweede blik verdient is chat. Low is het snelste niveau, wat past bij live support. Maar Anthropic raadt high aan wanneer het volgen van instructies het belangrijkst is, bijvoorbeeld een supportassistent die de regels in zijn systeemprompt moet vasthouden terwijl een gebruiker in discussie gaat. Test beide op de gesprekken die eerder misliepen.

Wat breekt of duur wordt wanneer de inspanning verandert

Een klein max_tokens kan het antwoord beëindigen voordat het begint. Denken telt mee voor max_tokens. Een limiet die is afgestemd op een classificatie van één woord, bijvoorbeeld 50 tokens, kan volledig opgaan aan denken, waarna het antwoord eindigt met stop_reason: "max_tokens" en zonder tekst. Verhoog de limiet om ruimte te maken, of verlaag de inspanning.

Inspanning midden in een gesprek wijzigen reset de cache. Het wijzigen van de inspanningswaarde op het hoogste niveau tussen verzoeken maakt de promptcache voor de berichten van het gesprek ongeldig. Als een agent één lastige beurt op high nodig heeft binnen een low-gesprek, biedt Anthropic een inspanningswijziging per bericht (beta-header mid-conversation-output-config-2026-07-01, Claude API en Google Cloud) die de cache behoudt. Hiervoor moet denken aan staan. Of een gateway die beta-header doorgeeft, is het waard om te controleren voordat je erop vertrouwt.

Denken uitschakelen heeft grenzen. thinking: {"type": "disabled"} wordt geaccepteerd bij low, medium en high. Bij xhigh of max geeft het een 400. Met denken uit geeft een inspanningswijziging per bericht ook een 400, en het model kan een toolaanroep overslaan die het nodig heeft wanneer hetzelfde verzoek om JSON-output vraagt. Het advies van Anthropic is om denken aan te houden en een lager inspanningsniveau te gebruiken.

Bij lage inspanning kan het model vroeg stoppen. Bij een lange systeemprompt voor een codeeragent op low stopt Haiku 5.5 soms voordat het werk af is en geeft de taak terug. In de tests van Anthropic halveerde de overstap van low naar medium het vroegtijdig stoppen ongeveer en verdubbelde het meer dan de outputtokens per poging. De promptinggids van Haiku 5.5 heeft een korte instructie "blijf werken tot het klaar is" die hetzelfde probleem aanpakt tegen de lagere prijs.

Bij low en medium kan verificatie worden overgeslagen. Bij codeertaken meldt het model soms een wijziging als klaar zonder een test te draaien. De promptinggids heeft een alinea over verificatie hiervoor; die kost tokens, maar verhoogt het aandeel gecontroleerde wijzigingen.

Xhigh kan een leeg antwoord geven. In meerdelige chats op xhigh schrijft het model soms zijn hele antwoord binnen zijn denkproces en eindigt de beurt zonder zichtbare tekst. Als je op xhigh draait, controleer dan op lege tekstblokken.

Een afgedwongen tool slaat het denken over. Haiku 5.5 accepteert een afgedwongen tool_choice, maar het antwoord begint dan met de toolaanroep zonder denken. Als het model moet redeneren voordat het de tool aanroept, gebruik dan auto en zeg in de prompt wanneer het moet aanroepen.

Voer je eigen inspanningsvergelijking uit via AIHubMix

De snelste manier om te kiezen is dezelfde 20 tot 50 echte prompts op twee of drie niveaus draaien en kwaliteit, outputtokens en latentie vergelijken. Via het AIHubMix Claude native endpoint, met AIHUBMIX_API_KEY ingesteld:

import os
import time
import anthropic

client = anthropic.Anthropic(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com",
)

prompts = [
    "Summarize this support ticket in one sentence: ...",
    "Extract the invoice number and total from: ...",
]

for effort in ["low", "medium", "high"]:
    out_tokens, seconds = 0, 0.0
    for prompt in prompts:
        start = time.time()
        r = client.messages.create(
            model="claude-haiku-5-5",
            max_tokens=8000,
            output_config={"effort": effort},
            messages=[{"role": "user", "content": prompt}],
        )
        seconds += time.time() - start
        out_tokens += r.usage.output_tokens
        text = next((b.text for b in r.content if b.type == "text"), "")
        # Save `text` next to the prompt and grade it against your own rubric.
    print(f"{effort}: {out_tokens} output tokens, {seconds:.1f}s total")

Als outputtokens nauwelijks veranderen tussen low en high, bereikt de instelling het model waarschijnlijk niet; controleer het verzoek dat je gateway doorstuurt. Op de Haiku 5.5-pagina op AIHubMix is de prijs per token hetzelfde op elk inspanningsniveau, dus het aantal tokens uit deze vergelijking vertaalt zich rechtstreeks naar dollars.

Veelgestelde vragen

Wat is het standaard inspanningsniveau voor Claude Haiku 5.5?
Medium. De meeste huidige Claude-modellen gebruiken high als standaard, dus code die voor een ander model op de standaard vertrouwde, draait Haiku 5.5 een niveau lager, tenzij er expliciet inspanning wordt ingesteld.

Kan ik denken volledig uitschakelen?
Bij low-, medium- en high-inspanning kan dat, door thinking op disabled te zetten. Bij xhigh en max geeft dat een fout. Anthropic raadt aan de inspanning te verlagen, omdat het model bij eenvoudige verzoeken zelf het denken kan overslaan en zijn toolgedrag intact blijft.

Welk inspanningsniveau is het goedkoopst?
Low. In de runs van Artificial Analysis gebruikte het ongeveer 32 miljoen outputtokens voor de hele index, tegenover 54 miljoen bij medium en 440 miljoen bij max. De prijs per token is op elk niveau gelijk; het verschil zit in hoeveel tokens er worden gegenereerd.

Is max-inspanning het waard bij Haiku 5.5?
Alleen met bewijs uit je eigen evaluaties. Op FrontierCode kostte max ongeveer tien keer zoveel als medium voor een winst van 4,8 punten. Anthropic suggereert dan een vergelijking met Sonnet 5.5, dat mogelijk dezelfde kwaliteit voor minder geld levert.

Waarom stoppen mijn antwoorden zonder tekst?
Meestal omdat denken max_tokens heeft opgebruikt voordat het antwoord begon. Verhoog max_tokens of verlaag de inspanning. Bij xhigh in meerdelige chats kan een leeg antwoord ook betekenen dat het model zijn antwoord binnen zijn denkproces heeft gezet.

Heeft het wijzigen van de inspanning invloed op prompt caching?
Ja. Het wijzigen van de inspanning op het hoogste niveau tussen verzoeken maakt de gecachete berichten van dat gesprek ongeldig. Een inspanningswijziging per bericht, die nu in beta is, voorkomt dat.

Waarom komen de lanceringsbenchmarks niet overeen met wat ik zie bij de standaardinstelling?
De lanceringscijfers zijn gemeten op maximale inspanning. Bij medium rapporteert de system card lagere scores, bijvoorbeeld 1277 in plaats van 1620 op GDPval-AA.

Lees verder: de Claude Haiku 5.5-serie

Bronnen

Eén gateway naar meerdere AI-aanbieders. Gebouwd voor productie.

Bezoek AIHubMix