Poziomy wysiłku Claude Haiku 5.5: Medium jest domyślne, a Low często wystarcza

AIHubMix8 min czytania
Poziomy wysiłku Claude Haiku 5.5: Medium jest domyślne, a Low często wystarcza

Claude Haiku 5.5 to pierwszy model Haiku z ustawieniem wysiłku, a to ustawienie wpływa na rachunek bardziej niż cokolwiek innego, na co masz wpływ. W niezależnych testach Artificial Analysis Haiku 5.5 na maksymalnym wysiłku uzyskał 43 pkt w Intelligence Index, a na niskim wysiłku 29 pkt. Max zużył też 440 milionów tokenów wyjściowych, żeby przejść cały indeks; low zużył 32 miliony.

Krótka odpowiedź: większość pracy zostaw na domyślnym poziomie medium. Proste, masowe ścieżki przenieś na low. Pracę wymagającą wiedzy i ścisłego przestrzegania instrukcji podnieś na high. Poziomy xhigh i max traktuj jako ustawienia, dla których potrzebujesz dowodów, i przed wdrożeniem porównaj je z Sonnet 5.5.

Reszta tego wpisu pokazuje, ile kosztuje każdy poziom, gdzie podniesienie wysiłku przestaje się opłacać i które ustawienia się psują lub drożeją przy zmianie wysiłku.

Czym jest to ustawienie

Claude Haiku 5.5 obsługuje pięć poziomów: low, medium, high, xhigh i max. Domyślnym poziomem jest medium, co jest nietypowe: większość obecnych modeli Claude domyślnie używa high, a tylko Haiku 5.5 i Opus 5.5 mają o jeden poziom niżej. Wysłanie medium jest tym samym co pominięcie parametru.

Effort zastępuje ręczny budżet myślenia, którego używał Haiku 4.5. Żądanie z thinking: {"type": "enabled", "budget_tokens": N} zwraca teraz błąd 400, więc nie ma starej wartości do przeniesienia. Zgodnie z dokumentacją effort Anthropic ustawiasz ją w output_config:

output_config={"effort": "low"}

Trzy fakty stanowią ramy dla wszystkiego, co następuje:

  • Myślenie jest domyślnie włączone. Haiku 5.5 działa z adaptacyjnym myśleniem, chyba że zostanie to zmienione. Niższy wysiłek oznacza mniej myślenia, a przy prostych żądaniach model może pominąć myślenie całkowicie.
  • Tokeny myślenia to tokeny wyjściowe. Liczą się do max_tokens i są rozliczane po stawce wyjściowej (0,50 $ za milion przy promptach do 100K tokenów).
  • Proszenie w prompcie o mniej myślenia nie działa. W testach Anthropic model nadal myślał, gdy prompt kazał mu odpowiadać bezpośrednio. Lewarem jest effort.

Ile kosztuje każdy poziom

Dwa niezależne źródła zmierzyły Haiku 5.5 na różnych poziomach wysiłku. Wyniki indeksu pochodzą z Artificial Analysis; wyniki FrontierCode pochodzą z publicznego pliku wyników Cognition, zestawionego przez Kingy.ai. Żadne z nich nie obejmuje Twojego obciążenia, więc traktuj je jako kształt krzywej, a nie jako Twoje liczby.

Artificial Analysis Intelligence Index v4.3.2 (dziesięć ewaluacji, od pracy biurowej po zadania terminalowe):

Wysiłek Wynik w indeksie Tokeny wyjściowe dla indeksu Koszt zadania Czas do pierwszego tokena
low 29 32M $0.02 9.9 s
medium 34 54M $0.05 13.4 s
high 38 97M $0.08 28.0 s
xhigh 41 180M $0.12 n/a
max 43 440M $0.21 n/a

Artificial Analysis nie opublikowało wartości opóźnienia dla xhigh. Jego wynik opóźnienia dla max wyglądał anomalnie, więc pominięto go.

FrontierCode 1.1 Main, Haiku 5.5 uruchomiony w Claude Code:

Wysiłek Wynik złożony Koszt na rollout Tokeny wyjściowe na rollout
low 34.8% $0.06 23,868
medium 41.6% $0.13 36,172
high 41.9% $0.26 55,149
xhigh 45.8% $0.63 100,847
max 46.4% $1.33 181,387

Koszty zaokrąglone do grosza.

Przeczytaj obie tabele razem, a wyraźnie widać trzy rzeczy.

Przejście z low na medium to najtańszy krok w górę. W indeksie daje 5 punktów za około 1.7 raza więcej tokenów wyjściowych. W FrontierCode daje 6.8 punktu za około dwukrotnie wyższy koszt na rollout.

Przejście z medium na high może być bez zysku. W FrontierCode high uzyskał o 0.3 punktu więcej niż medium, a kosztował około dwa razy tyle. W szerszym indeksie high dodał 4 punkty. To, czy Twoje obciążenie przypomina pierwszy przypadek, czy drugi, to dokładnie to, co pokaże szybka ewaluacja.

Dwa najwyższe poziomy są drogie. Od high do max w indeksie tokeny wyjściowe rosną około 4.5 raza za 5 punktów. W FrontierCode max kosztuje około dziesięć razy tyle co medium za 4.8 punktu więcej, a przejście z xhigh na max niemal podwaja koszt za 0.6 punktu. Wytyczne samego Anthropic mówią to prościej: używaj xhigh i max tylko tam, gdzie Twoje ewaluacje pokazują zysk, i najpierw porównaj je z Sonnet 5.5 pod względem wydajności, kosztu i szybkości.

Jeszcze jeden powód, dla którego domyślne ustawienie ma znaczenie: testy porównawcze z premiery Anthropic były uruchamiane na poziomie max. Wyniki system card dla medium są niższe (1277 w GDPval-AA zamiast 1620). Jeśli wdrażasz na ustawieniu domyślnym, to właśnie z tymi liczbami należy porównywać.

Od czego zacząć, w zależności od obciążenia

Obciążenie Zacznij od Przejdź wyżej, gdy
Klasyfikacja, routing, tagowanie low Etykiety rozjeżdżają się w trudnych przypadkach
Ekstrakcja z krótkich dokumentów low Pola są pomijane lub scalane
Czat i wsparcie na żywo low Zasady gubią się w długich rozmowach
Podsumowania i compaction medium Kluczowe szczegóły znikają
Praca subagentów pod większym modelem medium Model prowadzący wykonuje pracę ponownie
Agentowe kodowanie, wąskie zmiany medium Testy nie przechodzą za pierwszym razem
Praca wymagająca wiedzy, długie zadania agentowe high Ewaluacje pokazują zapas

Te punkty startowe wynikają z wytycznych Anthropic dla Haiku 5.5; sygnały „przejdź wyżej” to to, na co warto zwracać uwagę w swoich logach.

Jeden wiersz wart drugiego spojrzenia to czat. Low jest najszybszym poziomem, co pasuje do wsparcia na żywo. Anthropic zaleca jednak high, gdy najbardziej liczy się przestrzeganie instrukcji, na przykład w asystencie wsparcia, który musi trzymać się zasad z system promptu, gdy użytkownik się z nim spiera. Przetestuj oba poziomy na rozmowach, które w przeszłości poszły źle.

Co się psuje lub drożeje przy zmianie wysiłku

Mały max_tokens może zakończyć odpowiedź, zanim się zacznie. Myślenie liczy się do max_tokens. Limit dobrany do jednowyrazowej klasyfikacji, na przykład 50 tokenów, może zostać w całości zużyty na myślenie, a odpowiedź kończy się z stop_reason: "max_tokens" i bez tekstu. Zwiększ limit, aby zostawić miejsce, albo obniż wysiłek.

Zmiana wysiłku w trakcie rozmowy resetuje cache. Zmiana wartości effort na najwyższym poziomie między żądaniami unieważnia prompt cache dla wiadomości w rozmowie. Jeśli agent potrzebuje jednej trudnej tury na high w rozmowie na low, Anthropic oferuje zmianę wysiłku dla pojedynczej wiadomości (nagłówek beta mid-conversation-output-config-2026-07-01, Claude API i Google Cloud), która zachowuje cache. Wymaga włączonego myślenia. Zanim na tym polegasz, warto sprawdzić, czy brama przekazuje ten nagłówek beta.

Wyłączenie myślenia ma ograniczenia. thinking: {"type": "disabled"} jest akceptowane na poziomach low, medium i high. Na xhigh lub max zwraca błąd 400. Przy wyłączonym myśleniu zmiana wysiłku dla pojedynczej wiadomości również zwraca błąd 400, a model może pominąć wywołanie narzędzia, którego potrzebuje, gdy to samo żądanie wymaga wyjścia JSON. Anthropic radzi zostawić myślenie włączone i użyć niższego poziomu wysiłku.

Niski wysiłek może zatrzymać się za wcześnie. Przy długim system prompcie agenta kodującego na low Haiku 5.5 czasem przerywa pracę przed jej końcem i zwraca zadanie. W testach Anthropic przejście z low na medium mniej więcej o połowę zmniejszyło przedwczesne zatrzymywanie i ponad dwukrotnie zwiększyło liczbę tokenów wyjściowych na próbę. Przewodnik po promptowaniu Haiku 5.5 zawiera krótką instrukcję „pracuj dalej, aż skończysz”, która rozwiązuje ten sam problem przy niższej cenie.

Low i medium mogą pomijać weryfikację. W zadaniach kodowania model czasem zgłasza zmianę jako gotową, nie uruchamiając testu. Przewodnik po promptowaniu ma do tego akapit o weryfikacji; kosztuje on tokeny, ale zwiększa odsetek sprawdzonych zmian.

Xhigh może zwrócić pustą odpowiedź. W czatach wieloturowych na xhigh model czasem zapisuje całą odpowiedź w swoim myśleniu i kończy turę bez widocznego tekstu. Jeśli działasz na xhigh, sprawdzaj puste bloki tekstowe.

Wymuszenie narzędzia pomija myślenie. Haiku 5.5 akceptuje wymuszone tool_choice, ale odpowiedź zaczyna się wtedy od wywołania narzędzia, bez myślenia. Jeśli model musi rozumować przed wywołaniem narzędzia, użyj auto i napisz w prompcie, kiedy ma je wywołać.

Przeprowadź własny test wysiłku przez AIHubMix

Najszybszy sposób wyboru to uruchomienie tych samych 20–50 prawdziwych promptów na dwóch lub trzech poziomach i porównanie jakości, tokenów wyjściowych oraz opóźnienia. Przez natywny endpoint Claude w AIHubMix, z ustawionym AIHUBMIX_API_KEY:

import os
import time
import anthropic

client = anthropic.Anthropic(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com",
)

prompts = [
    "Summarize this support ticket in one sentence: ...",
    "Extract the invoice number and total from: ...",
]

for effort in ["low", "medium", "high"]:
    out_tokens, seconds = 0, 0.0
    for prompt in prompts:
        start = time.time()
        r = client.messages.create(
            model="claude-haiku-5-5",
            max_tokens=8000,
            output_config={"effort": effort},
            messages=[{"role": "user", "content": prompt}],
        )
        seconds += time.time() - start
        out_tokens += r.usage.output_tokens
        text = next((b.text for b in r.content if b.type == "text"), "")
        # Save `text` next to the prompt and grade it against your own rubric.
    print(f"{effort}: {out_tokens} output tokens, {seconds:.1f}s total")

Jeśli liczba tokenów wyjściowych prawie się nie zmienia między low a high, ustawienie prawdopodobnie nie dociera do modelu; sprawdź żądanie, które przekazuje Twoja brama. Na stronie Haiku 5.5 w AIHubMix cena za token jest taka sama na każdym poziomie wysiłku, więc liczba tokenów z tego testu przelicza się bezpośrednio na dolary.

FAQ

Jaki jest domyślny poziom wysiłku dla Claude Haiku 5.5?
Medium. Większość obecnych modeli Claude domyślnie używa high, więc kod, który polegał na domyślnym ustawieniu dla innego modelu, uruchomi Haiku 5.5 o jeden poziom niżej, chyba że jawnie ustawi effort.

Czy mogę całkowicie wyłączyć myślenie?
Na poziomach low, medium i high tak, ustawiając thinking na disabled. Na xhigh i max zwraca to błąd. Anthropic zaleca obniżenie wysiłku, ponieważ model sam potrafi pominąć myślenie przy prostych żądaniach i zachowuje przy tym poprawne działanie wywołań narzędzi.

Który poziom wysiłku jest najtańszy?
Low. W testach Artificial Analysis zużył około 32 milionów tokenów wyjściowych na cały indeks, wobec 54 milionów na medium i 440 milionów na max. Cena za token jest taka sama na każdym poziomie; różnica polega na tym, ile tokenów zostanie wygenerowanych.

Czy max jest wart uruchomienia na Haiku 5.5?
Tylko z dowodami z własnych ewaluacji. W FrontierCode max kosztował około dziesięć razy więcej niż medium za 4.8 punktu zysku. Wtedy Anthropic sugeruje porównanie z Sonnet 5.5, który może osiągnąć tę samą jakość taniej.

Dlaczego moje odpowiedzi kończą się bez tekstu?
Zwykle dlatego, że myślenie zużyło max_tokens, zanim zaczęła się odpowiedź. Zwiększ max_tokens lub obniż wysiłek. Na xhigh w czatach wieloturowych pusta odpowiedź może też oznaczać, że model umieścił swoją odpowiedź w myśleniu.

Czy zmiana wysiłku wpływa na prompt caching?
Tak. Zmiana wysiłku na najwyższym poziomie między żądaniami unieważnia zbuforowane wiadomości dla tej rozmowy. Zmiana wysiłku dla pojedynczej wiadomości, obecnie w becie, tego unika.

Dlaczego wyniki z premiery nie zgadzają się z tym, co widzę przy ustawieniu domyślnym?
Wyniki premierowe uzyskano przy maksymalnym nakładzie wysiłku (max effort). Przy poziomie medium karta systemowa podaje niższe wyniki, na przykład 1277 zamiast 1620 w GDPval-AA.

Czytaj dalej: seria Claude Haiku 5.5

Źródła

Jedna brama do wielu dostawców AI. Stworzona z myślą o produkcji.

Odwiedź AIHubMix