Een redeneerinspanning kiezen voor GPT-6.1 Sol: van low tot max

AIHubMix6 min leestijd
Een redeneerinspanning kiezen voor GPT-6.1 Sol: van low tot max

GPT-6.1 Sol heeft vijf niveaus voor redeneerinspanning: low, medium (de standaard), high, xhigh en max. De grote verandering ten opzichte van GPT-6 Sol is dat none en minimal zijn verdwenen, dus low is nu de ondergrens.

Deze ene instelling bepaalt zowel de latentie als de kosten. Je ziet redeneertokens nooit, maar je betaalt ervoor tegen het outputtarief ($10 per miljoen voor 6.1 Sol op AIHubMix), en ze nemen ruimte in het contextvenster in. Kies het verkeerde niveau en je betaalt al snel meerdere keren meer dan nodig.


Waarvoor elk niveau bedoeld is

Deze tabel combineert de beschrijvingen van OpenAI uit de redeneergids met onze eigen aanbevelingen:

NiveauBeschrijving van OpenAIGoede matchSlechte match
lowEfficiënt redeneren met een beperkte toename van de latentieTussenstappen in toolloops, zoeken, licht plannen, classificatie, extractie, antwoorden van supportLastig debuggen, refactoring over meerdere bestanden
medium (standaard)De evenwichtige standaard voor de meeste workloadsDagelijkse codering, code review, schrijven, typische agenttakenLatentiekritisch interactief gebruik
highMoeilijk redeneren, complex debuggen, diepgaand plannenLastige bugs, architectuurwerk, SWE-achtige takenOnline verkeer met hoge QPS
xhighDiepgaand onderzoek, asynchroon werk, lange agentrunsAchtergrondtaken, onderzoeksrapportenAlles wat je evals niet hebben onderbouwd
maxMaximaal redeneren voor de moeilijkste takenComputergebruik, problemen op onderzoeksniveau, zwaar werk offlineBijna alle dagelijkse verzoeken

OpenAI noemt effort "een afstelknop, niet de primaire manier om kwaliteit terug te winnen." Als de resultaten slecht zijn, kijk dan eerst naar de prompt, de tooldefinities en de context. Verhoog pas daarna de effort.


Wat de benchmarks zeggen over elk niveau

Dit zijn de eigen cijfers van OpenAI, samengesteld door Vellum en DataCamp. Zie ze als richtlijn, niet als heilige waarheid.

Voor codering is high meestal genoeg. Op DeepSWE v1.1 scoort 6.1 Sol op high 75.2, gelijk aan Astra op high (74.8), voor ongeveer $1.50 per taak. De kostencurve komt uit op 72% tot 75% voor tussen $0.50 en $1.50 per taak. GPT-6 Sol haalde op maximale instelling 68.8 voor ongeveer $2.60.

Hoger dan medium helpt niet altijd. Op AutomationBench scoort 6.1 Sol 35.4% op medium en slechts ongeveer 36.0% bij hogere effort. Voor bedrijfsautomatisering leverden de extra redeneertokens bijna niets op.

Bewaar max voor computergebruik en onderzoek. Op OSWorld 2.0 haalt max 71.4 tegen ongeveer $1.30 per taak. Terminal-Bench Science op max kost $5.47 per taak: veel goedkoper dan Astra's $23.80, maar een orde van grootte boven de meeste andere workloads.

Low werd ook beter. Het foutenpercentage bij feiten op low daalde van 11.4% op 6 Sol naar 7.7%. Als je taken op 6 Sol naar medium hebt verhoogd omdat low niet nauwkeurig genoeg was, probeer low dan opnieuw.


Startpunten per gebruiksscenario

GebruiksscenarioBegin bijOpmerkingen
Aanroepen die none gebruikten op 6 SollowDe officiële mapping van OpenAI. Als latentie kritiek is, overweeg dan GPT-6 Luna, die none nog wel ondersteunt
Aanroepen die minimal gebruiktenlowBegin bij low en vergelijk de resultaten
Chatbots, klantenservicelowVraag het model om een preamble van één regel, zodat het eerste token sneller komt
RAG Q&Alow → mediumKwaliteit van retrieval is belangrijker dan effort
IDE-codeerassistentmediumDe standaard werkt
Geautomatiseerd bugfixen, SWE-agentshighDeepSWE laat zien dat high al gelijk presteert aan Astra
Computergebruik, browseragentshigh → maxOSWorld piekt bij max
Achtergrondonderzoek, lange runsxhighAlleen als evals een winst laten zien. Batch halveert de kosten als je resultaten niet meteen nodig hebt
De moeilijkste onderzoeksproblemenmax, of gebruik gewoon AstraOpenAI raadt hier ook Astra aan

De mappings voor none en minimal komen uit de GPT-6 migratiegids van OpenAI.


Effort wijzigen midden in een gesprek

Een veelgebruikt patroon is plannen op high, uitvoeren op low en terugschakelen naar high wanneer er iets misgaat.

Het addertje: reasoning.effort in het verzoek aanpassen breekt je prompt-cache. Effort maakt deel uit van het gecachete voorvoegsel (zie de promptcachinggids). Op 6.1 Sol kost een cache-read $0.10 per miljoen tokens, terwijl het opnieuw schrijven van de cache $2.50 kost. Dat is een verschil van 25×.

Het GPT-6-gezin lost dit op met een configuration_update-invoeritem. Laat de reasoning.effort op verzoekniveau ongemoeid en voeg een update in vóór het volgende gebruikersbericht. Zo ziet dat eruit via de AIHubMix Responses API:

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

# Turn 1: plan at high effort
r1 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},
    input="Figure out why this repo's tests are failing and propose a fix plan.",
)

# Turn 2: drop to low for execution, without touching request-level effort
r2 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},           # unchanged, so the cache survives
    previous_response_id=r1.id,
    input=[
        {"type": "configuration_update", "reasoning": {"effort": "low"}},
        {"role": "user", "content": "Carry out step 1 of the plan."},
    ],
)
Het configuration_update-formaat hierboven is illustratief. Controleer de exacte structuur in de redeneergids van OpenAI. De Responses-documentatie van AIHubMix somt momenteel vier niveaus op (van minimal tot high), dus stuur een klein testverzoek om te bevestigen dat xhigh, max en configuration_update wel worden doorgegeven.

Een paar beperkingen om te kennen:

  • Het werkt alleen in de standaard single-agentmodus, en het wijzigt alleen effort.
  • Twee updates kunnen niet direct naast elkaar staan.
  • Het combineert niet met automatische compactie of truncatie. Expliciete compactie is prima, maar voeg daarna een nieuwe update toe.
  • Het veld reasoning.effort in de respons toont nog steeds de waarde op verzoekniveau, dus haal er niet te veel uit.

Instellingen die bij effort horen

Laat ruimte over in max_output_tokens. De limiet omvat redeneertokens. Staat die te laag, dan kan het model stoppen voordat er zichtbare tekst is. Je krijgt status: incomplete en betaalt toch voor input en redeneren. OpenAI raadt aan om te beginnen met minstens 25,000 tokens te reserveren, en meer voor xhigh of max.

Houd redeneertokens bij. Ze staan in usage.output_tokens_details.reasoning_tokens. De verdeling per effortniveau bekijken is beter dan op gevoel afstellen.

Schakel samenvattingen in als je zichtbaarheid nodig hebt. reasoning.summary: "auto" geeft een samenvatting van de redenering van het model (je moet mogelijk eerst je organisatie verifiëren). De ruwe redenering wordt nooit getoond.

Pro-modus is een aparte schakelaar. Het laat het model meer werk doen, gefactureerd tegen standaardtarieven maar met meer tokens in totaal. Gebruik het voor moeilijke problemen waarbij extra latentie acceptabel is.


Een afstemmingsproces dat je echt kunt uitvoeren

  1. Verzamel 20 tot 50 echte taken in een evalset.
  2. Draai een baseline op medium. Noteer slagingspercentage, gemiddelde redeneertokens en P95-latentie.
  3. Probeer low. Als het slagingspercentage nauwelijks daalt, schakel dan over.
  4. Probeer high. Als het slagingspercentage duidelijk verbetert, gebruik high dan alleen voor dat taaktype.
  5. Grijp alleen naar xhigh of max als high tekortschiet, en vergelijk dan ook met GPT-6 Astra op high. Soms verslaat een groter model meer effort. Op AIHubMix is dat gewoon een wijziging van de parameter model en de modellijst laat zien wat beschikbaar is.
  6. Routeer op taaktype in plaats van één globale instelling te gebruiken.

Kort gezegd: begin met medium, bespaar geld met low, gebruik high voor codering, en laat xhigh en max hun waarde in je evals bewijzen.

Volgende: wat het prijskaartje van $2 / $10 echt betekent zodra caching, lange context en factureringsvermenigvuldigers meespelen.


FAQ

Wat is de standaard redeneerinspanning voor GPT-6.1 Sol? medium. Als je niets instelt, krijg je dat.

Waarom geeft none een foutmelding? 6.1 Sol ondersteunt none of minimal niet. OpenAI raadt aan over te schakelen naar low. Als je echt none nodig hebt, blijf dan bij GPT-6 Sol of GPT-6 Luna.

Hoe worden redeneertokens gefactureerd? Tegen het outputtarief ($10 per miljoen voor 6.1 Sol), en ze tellen mee in het contextvenster. Bekijk usage.output_tokens_details.reasoning_tokens voor de werkelijke aantallen.

Is de parameternaam hetzelfde in Chat Completions en Responses? Nee. Chat Completions gebruikt een bovenliggende reasoning_effort. Responses gebruikt een genest reasoning: {"effort": ...}. Als je ze door elkaar haalt, krijg je Unsupported parameter.

Geeft hogere effort altijd betere resultaten? Nee. Op AutomationBench verhoogde alles boven medium de score alleen van 35.4% naar ongeveer 36.0%, terwijl het merkbaar meer kostte. Test op je eigen taken.

Kan ik effort halverwege een gesprek wijzigen? Ja. Gebruik een configuration_update-item en laat de reasoning.effort op verzoekniveau ongewijzigd, zodat de prompt-cache geldig blijft. Het werkt niet met automatische compactie of truncatie.

Waarom kreeg ik status: incomplete zonder output? Waarschijnlijk was max_output_tokens te laag en heeft het redeneren alles opgebruikt. OpenAI raadt aan minstens 25,000 tokens te reserveren.


Lees verder: de GPT-6.1 Sol-serie


Bronnen

Eén gateway naar meerdere AI-aanbieders. Gebouwd voor productie.

Bezoek AIHubMix