Niveaux d'effort de Claude Haiku 5.5 : medium par défaut, low souvent suffisant

AIHubMix8 min de lecture
Niveaux d'effort de Claude Haiku 5.5 : medium par défaut, low souvent suffisant

Claude Haiku 5.5 est le premier Haiku doté d'un réglage d'effort, et ce réglage influe sur la facture plus que tout autre paramètre à votre disposition. Dans les tests indépendants d'Artificial Analysis, Haiku 5.5 en effort max a obtenu 43 à son Intelligence Index, contre 29 en effort low. Le niveau max a aussi utilisé 440 millions de tokens de sortie pour traiter l'index, contre 32 millions pour low.

La réponse courte : gardez la plupart des tâches au réglage par défaut, medium. Basculez les routes simples et à fort volume sur low. Passez les tâches de travail intellectuel et le suivi strict des instructions sur high. Considérez xhigh et max comme des réglages qui exigent des preuves, et comparez-les à Sonnet 5.5 avant de vous engager.

La suite de cet article montre ce que coûte chaque niveau, à partir de quel point monter ne rapporte plus, et quels réglages cassent ou deviennent coûteux quand vous changez l'effort.

Ce qu'est ce réglage

Claude Haiku 5.5 prend en charge cinq niveaux : low, medium, high, xhigh et max. La valeur par défaut est medium, ce qui est inhabituel : la plupart des modèles Claude actuels utilisent high par défaut, et seuls Haiku 5.5 et Opus 5.5 utilisent un niveau inférieur. Envoyer medium revient à omettre le paramètre.

L'effort remplace le budget de réflexion manuel qu'utilisait Haiku 4.5. Une requête avec thinking: {"type": "enabled", "budget_tokens": N} renvoie désormais une erreur 400, il n'y a donc aucune ancienne valeur à reprendre. Selon la documentation sur l'effort d'Anthropic, on le définit dans output_config :

output_config={"effort": "low"}

Trois faits encadrent tout ce qui suit :

  • La réflexion est activée par défaut. Haiku 5.5 exécute une réflexion adaptative, sauf indication contraire. Un effort plus faible signifie moins de réflexion, et sur les requêtes simples le modèle peut sauter la réflexion complètement.
  • Les tokens de réflexion sont des tokens de sortie. Ils comptent dans max_tokens et sont facturés au tarif de sortie (0,50 $ par million pour les prompts allant jusqu'à 100K tokens).
  • Demander moins de réflexion dans le prompt ne fonctionne pas. Dans les tests d'Anthropic, le modèle réfléchissait encore lorsque le prompt lui demandait de répondre directement. L'effort est le levier.

Ce que coûte chaque niveau

Deux sources indépendantes ont mesuré Haiku 5.5 selon les niveaux d'effort. Les chiffres de l'index proviennent d'Artificial Analysis ; les chiffres FrontierCode proviennent du fichier de résultats public de Cognition, tel que compilé par Kingy.ai. Aucune des deux ne couvre votre charge de travail : considérez-les comme la forme de la courbe, pas comme vos propres chiffres.

Artificial Analysis Intelligence Index v4.3.2 (dix évaluations, du travail intellectuel aux tâches de terminal) :

Effort Score de l'index Tokens de sortie pour l'index Coût par tâche Délai avant le premier token
low 29 32M $0.02 9.9 s
medium 34 54M $0.05 13.4 s
high 38 97M $0.08 28.0 s
xhigh 41 180M $0.12 n/a
max 43 440M $0.21 n/a

Artificial Analysis n'a pas publié de mesure de latence pour xhigh. Sa mesure de latence en effort max semblait anormale, elle est donc omise.

FrontierCode 1.1 Main, Haiku 5.5 exécuté dans Claude Code :

Effort Score composite Coût par rollout Tokens de sortie par rollout
low 34.8% $0.06 23,868
medium 41.6% $0.13 36,172
high 41.9% $0.26 55,149
xhigh 45.8% $0.63 100,847
max 46.4% $1.33 181,387

Les coûts sont arrondis au centime.

En lisant les deux tableaux ensemble, trois points ressortent.

Passer de low à medium est la hausse la moins chère. Sur l'index, elle rapporte 5 points pour environ 1,7 fois plus de tokens de sortie. Sur FrontierCode, elle rapporte 6,8 points pour environ deux fois le coût par rollout.

De medium à high, le gain peut être nul. Sur FrontierCode, high a obtenu 0,3 point de plus que medium et coûté environ deux fois plus cher. Sur l'index plus large, high a bien ajouté 4 points. Savoir si votre charge de travail ressemble au premier cas ou au second, c'est précisément ce qu'une évaluation rapide vous indiquera.

Les deux niveaux supérieurs sont chers. De high à max sur l'index, les tokens de sortie sont multipliés par environ 4,5 pour 5 points. Sur FrontierCode, max coûte environ dix fois plus que medium pour 4,8 points de plus, et le passage de xhigh à max double à peu près le coût pour 0,6 point. Les recommandations d'Anthropic disent la même chose en termes plus simples : utilisez xhigh et max uniquement lorsque vos évaluations montrent un gain, et comparez-les d'abord à Sonnet 5.5 sur la performance, le coût et la vitesse.

Une autre raison pour laquelle le réglage par défaut compte : les résultats de lancement d'Anthropic ont été obtenus en effort max. Les résultats en effort medium publiés dans la system card sont plus bas (1277 sur GDPval-AA au lieu de 1620). Si vous déployez avec le réglage par défaut, ce sont ces chiffres qu'il faut comparer.

Par où commencer, selon la charge de travail

Charge de travail Commencer à Monter quand
Classification, routage, étiquetage low Les étiquettes dérivent sur les cas difficiles
Extraction à partir de documents courts low Des champs sont manqués ou fusionnés
Chat et support en direct low Les règles se relâchent dans les longues conversations
Résumés et compaction medium Des détails clés disparaissent
Travail de sous-agents sous un modèle plus grand medium Le modèle principal refait le travail
Codage agentique, modifications ciblées medium Les tests échouent à la première tentative
Travail intellectuel, longues tâches d'agent high Les évaluations montrent une marge de progression

Ces points de départ suivent les recommandations d'Anthropic pour Haiku 5.5 ; les signaux « monter » sont ce qu'il faut surveiller dans vos propres journaux.

La seule ligne qui mérite un second regard est le chat. Low est le niveau le plus rapide, ce qui convient au support en direct. Mais Anthropic recommande high lorsque le respect des instructions compte le plus, par exemple pour un assistant de support qui doit tenir les règles de son prompt système pendant qu'un utilisateur argumente. Testez les deux sur les conversations qui ont mal tourné par le passé.

Ce qui casse ou devient coûteux quand l'effort change

Un max_tokens trop petit peut interrompre la réponse avant qu'elle ne commence. La réflexion compte dans max_tokens. Une limite calibrée pour une classification d'un seul mot, par exemple 50 tokens, peut être entièrement consommée par la réflexion, et la réponse se termine avec stop_reason: "max_tokens" et sans texte. Augmentez la limite pour laisser de la marge, ou baissez l'effort.

Changer l'effort en cours de conversation réinitialise le cache. Modifier la valeur d'effort globale entre deux requêtes invalide le cache de prompt des messages de la conversation. Si un agent a besoin d'un tour difficile en high au sein d'une conversation en low, Anthropic propose un changement d'effort par message (en-tête bêta mid-conversation-output-config-2026-07-01, API Claude et Google Cloud) qui préserve le cache. Il exige que la réflexion soit activée. Vérifiez si votre passerelle transmet cet en-tête bêta avant de vous y fier.

Désactiver la réflexion a des limites. thinking: {"type": "disabled"} est accepté en low, medium et high. En xhigh ou max, il renvoie une erreur 400. Avec la réflexion désactivée, un changement d'effort par message renvoie aussi une erreur 400, et le modèle peut omettre un appel d'outil dont il a besoin lorsque la même requête demande une sortie JSON. Le conseil d'Anthropic est de garder la réflexion activée et d'utiliser un niveau d'effort plus bas.

En effort low, le modèle peut s'arrêter trop tôt. Avec un long prompt système d'agent de codage en low, Haiku 5.5 s'arrête parfois avant la fin du travail et rend la tâche. Dans les tests d'Anthropic, passer de low à medium a à peu près divisé par deux les arrêts prématurés et plus que doublé les tokens de sortie par tentative. Le guide de prompting de Haiku 5.5 contient une courte instruction « continue jusqu'à ce que ce soit terminé » qui résout le même problème à moindre coût.

Low et medium peuvent sauter la vérification. Sur les tâches de codage, le modèle annonce parfois une modification comme terminée sans avoir exécuté de test. Le guide de prompting contient un paragraphe sur la vérification pour cela ; il coûte des tokens, mais augmente la part des modifications vérifiées.

Xhigh peut renvoyer une réponse vide. Dans les conversations multi-tours en xhigh, le modèle écrit parfois toute sa réponse dans sa réflexion et termine le tour sans texte visible. Si vous utilisez xhigh, vérifiez l'absence de blocs de texte vides.

Forcer un outil fait sauter la réflexion. Haiku 5.5 accepte un tool_choice forcé, mais la réponse commence alors directement par l'appel d'outil, sans réflexion. Si le modèle doit raisonner avant d'appeler l'outil, utilisez auto et indiquez dans le prompt quand l'appeler.

Lancez votre propre test d'effort via AIHubMix

Le moyen le plus rapide de choisir est d'exécuter les mêmes 20 à 50 prompts réels sur deux ou trois niveaux, puis de comparer la qualité, les tokens de sortie et la latence. Via le point de terminaison natif Claude d'AIHubMix, avec AIHUBMIX_API_KEY défini :

import os
import time
import anthropic

client = anthropic.Anthropic(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com",
)

prompts = [
    "Summarize this support ticket in one sentence: ...",
    "Extract the invoice number and total from: ...",
]

for effort in ["low", "medium", "high"]:
    out_tokens, seconds = 0, 0.0
    for prompt in prompts:
        start = time.time()
        r = client.messages.create(
            model="claude-haiku-5-5",
            max_tokens=8000,
            output_config={"effort": effort},
            messages=[{"role": "user", "content": prompt}],
        )
        seconds += time.time() - start
        out_tokens += r.usage.output_tokens
        text = next((b.text for b in r.content if b.type == "text"), "")
        # Save `text` next to the prompt and grade it against your own rubric.
    print(f"{effort}: {out_tokens} output tokens, {seconds:.1f}s total")

Si les tokens de sortie varient à peine entre low et high, le réglage n'atteint probablement pas le modèle ; vérifiez la requête que votre passerelle transmet. Sur la page Haiku 5.5 sur AIHubMix, le prix par token est le même à chaque niveau d'effort : le nombre de tokens de ce test se convertit donc directement en dollars.

FAQ

Quel est le niveau d'effort par défaut de Claude Haiku 5.5 ?
Medium. La plupart des modèles Claude actuels utilisent high par défaut, donc le code qui s'appuyait sur le défaut d'un autre modèle exécutera Haiku 5.5 un niveau plus bas, sauf s'il définit explicitement l'effort.

Puis-je désactiver complètement la réflexion ?
En effort low, medium et high, oui, en réglant thinking sur disabled. En xhigh et max, cela renvoie une erreur. Anthropic recommande plutôt de baisser l'effort, car le modèle peut lui-même sauter la réflexion sur les requêtes simples et conserve ainsi son comportement d'appel d'outils.

Quel niveau d'effort est le moins cher ?
Low. Dans les tests d'Artificial Analysis, il a utilisé environ 32 millions de tokens de sortie pour l'ensemble de l'index, contre 54 millions en medium et 440 millions en max. Le prix par token est le même à chaque niveau ; la différence tient au nombre de tokens générés.

L'effort max vaut-il la peine sur Haiku 5.5 ?
Seulement si vos propres évaluations le prouvent. Sur FrontierCode, max a coûté environ dix fois plus que medium pour un gain de 4,8 points. À ce stade, Anthropic suggère de comparer avec Sonnet 5.5, qui peut atteindre la même qualité pour moins cher.

Pourquoi mes réponses s'arrêtent-elles sans texte ?
Généralement parce que la réflexion a consommé max_tokens avant le début de la réponse. Augmentez max_tokens ou baissez l'effort. En xhigh, dans les conversations multi-tours, une réponse vide peut aussi signifier que le modèle a placé sa réponse dans sa réflexion.

Le changement d'effort affecte-t-il le cache de prompt ?
Oui. Modifier l'effort global entre deux requêtes invalide les messages mis en cache pour cette conversation. Un changement d'effort par message, actuellement en bêta, l'évite.

Pourquoi les benchmarks de lancement ne correspondent-ils pas à ce que j'observe avec la valeur par défaut ?
Les chiffres de lancement ont été obtenus à l'effort maximal. Au niveau medium, la system card rapporte des scores plus bas, par exemple 1277 au lieu de 1620 sur GDPval-AA.

À lire ensuite : la série Claude Haiku 5.5

Sources

Une seule passerelle vers plusieurs fournisseurs d’IA. Conçue pour la production.

Découvrir AIHubMix