Wat GPT-6.1 Terra echt kost: effortniveaus, de grens van 272K en caching

GPT-6.1 Terra werd op 26 oktober 2026 gelanceerd voor $1 per miljoen inputtokens en $5 per miljoen outputtokens: de helft van de inputprijs van GPT-5.6 Terra en ruim minder dan de helft van de outputprijs van $12. De catalogusprijs is nog maar het begin. Drie dingen bepalen wat een Terra-workload daadwerkelijk kost:

• Redeneerinspanning. Redeneertokens worden als output afgerekend; het verschil tussen de effortniveaus loopt op tot een veelvoud.
• De grens van 272K. Zodra de input van een verzoek meer dan 272.000 tokens bevat, valt het hele verzoek onder een hoger tarief.
• Caching. Een gecachte prefix kost 5% van de normale inputprijs; een prefix die niet wordt gevonden of wordt herschreven, kost de volle prijs of meer.

Hieronder vind je een workload waarvan alle aannames zijn vermeld, de factureringsregels die je makkelijk over het hoofd ziet, de kosten per taak vergeleken met GPT-6.1 Sol, Claude Sonnet 5.5 en GPT-5.6 Terra, en een Python-voorbeeld dat de gebruiksvelden achter je rekening logt. AIHubMix biedt Terra aan als gpt-6.1-terra, tegen dezelfde prijzen als OpenAI.

De prijslijst

Alle prijzen zijn in USD per miljoen tokens, afkomstig van de modelpagina van OpenAI. De modelpagina van AIHubMix vermeldt dezelfde standaardprijzen voor input, cachelezen en output, maar geen tarief voor cache schrijven of lange context. In de cachingdocumentatie staat één schrijftarief van 1.25x; een toeslag voor 12 uur wordt daar dus niet gepubliceerd.

OpenAI vermeldt één reeks tarieven en geeft de rest als regel op: bij meer dan 272K inputtokens verdubbelen de input- en cachetarieven en stijgt het outputtarief met een factor 1.5x voor het hele verzoek. Daardoor komt schrijven met een bewaartermijn van 12 uur uit op $5.00. AIHubMix publiceert geen tarief voor lange context voor Terra, dus het is niet bevestigd wat de gateway factureert boven 272K.

OpenAI biedt ook Batch- en Flex-verwerking aan met 50% korting, de Fast-modus voor 2x en regionale verwerking met een toeslag van +10%. Dat zijn de voorwaarden van OpenAI. AIHubMix biedt OpenAI's Batch API niet aan (GET /v1/batches gaf bij tests van AIHubMix op 27 oktober een 404-foutmelding). Uit dezelfde tests bleek dat service_tier "flex" werd geaccepteerd en als "flex" werd teruggegeven, en dat "priority" werd geaccepteerd en als "fast" werd teruggegeven. Volgens de voorwaarden van OpenAI is dat de Fast-modus van 2x. Op de prijslijst van AIHubMix staan voor Terra alleen standaardtarieven, dus geen van beide gefactureerde tarieven is bevestigd. Controleer je gebruikslog in plaats van zomaar van korting uit te gaan.

De modellen die later worden vergeleken, tegen de officiële prijzen (bij AIHubMix hetzelfde):

Factureringsregels die je makkelijk over het hoofd ziet

Redeneertokens zijn outputtokens. Een verzoek dat na 8,000 redeneertokens 2,000 zichtbare tokens oplevert, wordt afgerekend als 10,000 outputtokens. Haal de kosten uit het gebruiksobject, niet uit de lengte van het antwoord.

Bij de grens van 272K worden de tarieven voor het hele verzoek aangepast. Het is geen marginaal tarief dat alleen geldt voor de tokens boven 272.000. Voor elk inputtoken in het verzoek verdubbelt het tarief en voor elk outputtoken stijgt het met 50%. Hieronder zie je de berekening bij de grens, zonder caching en met in beide gevallen 20,000 outputtokens:

Elf procent meer input verdubbelt de rekening ongeveer. Terra accepteert maximaal 922,000 inputtokens (1,050,000 context); boven 272K betaal je alleen meer.

Cache schrijven is niet gratis. Bij GPT-5.6 en latere modellen kost het schrijven van een prefix naar de cache 1.25x het inputtarief voor de standaardbewaartermijn van 30 minuten en 2.5x voor een bewaartermijn van 12 uur, die alleen beschikbaar is via de Responses API. Lezen kost bij Terra 0.05x, ongeacht de gekozen bewaartermijn. Volgens OpenAI's handleiding voor promptcaching zijn dit totale tarieven, geen toeslagen: elk inputtoken wordt één keer afgerekend, als gewone input, als cachelezing of als cacheschrijving. Een prefix moet minstens 1,024 tokens bevatten om te kunnen worden gecachet.

Chat Completions en Responses delen geen cache op AIHubMix. Bij tests van AIHubMix werd een developer-prefix van 9,623 tokens geschreven bij de eerste aanroep van Responses en uitgelezen bij de tweede en derde aanroep. Meteen daarna werd dezelfde prefix naar Chat Completions gestuurd, maar die werd opnieuw geschreven en niet uit de cache gehaald. Gemengd verkeer betaalt dus voor twee sets schrijfbewerkingen.

Via AIHubMix heeft effort alleen effect op Responses. Bij de Responses API leverde een prompt voor priemgetalsommen 72 outputtokens op bij effort none en 1,153 bij max (waarvan 1,078 redeneertokens). Bij Chat Completions maakte reasoning_effort in dezelfde tests geen consistent verschil (bij none en max kwamen er van run tot run beide ongeveer 200-300 redeneertokens uit). Dat wijst erop dat die route met een vaste effort draait. Als je geld wilt besparen met een lagere effort, stuur die verzoeken dan naar Responses.

Ingebouwde web search wordt per aanroep afgerekend. AIHubMix vermeldt voor web_search_requests een tarief van $0.01 per aanroep, boven op de tokens.

Een realistische maand, regel voor regel berekend

Neem een workload voor support of documentverwerking met 10,000 verzoeken per maand via de Responses API. De aannames:

• elk verzoek bevat een stabiele prefix van 2,500 tokens (systeemprompt, tooldefinities, referentieregels) die uit de cache wordt gehaald;
• elk verzoek voegt 1,500 nieuwe inputtokens toe (het bericht of document van de gebruiker);
• elk verzoek levert 1,500 outputtokens op, inclusief redeneertokens, bij medium effort (de standaardinstelling van Terra);
• elk verzoek blijft onder 272K input, dus gelden de standaardtarieven;
• cacheschrijvingen zijn niet meegerekend in de totalen (zie de opmerking onder de tabel).

Over een maand komt dat neer op 25M gecachte tokens, 15M nieuwe inputtokens en 15M outputtokens.

Cacheschrijvingen voegen hier weinig toe. Telkens wanneer de prefix van 2,500 tokens wordt geschreven, worden die tokens afgerekend tegen $1.25 per miljoen in plaats van $0.05, ongeveer $0.003 extra per schrijfactie.

Twee varianten laten zien waar het geld naartoe gaat.

Zonder caching. Als de prefix nooit wordt teruggevonden (omdat die per verzoek verandert of omdat het verkeer over routes is verspreid), worden alle 40M inputtokens afgerekend tegen $1: $40 voor input plus $75 voor output, in totaal $115. Caching bespaart $23.75 per maand, ongeveer een vijfde van de rekening.

Bij max effort. Artificial Analysis mat voor taken in zijn Intelligence Index ongeveer 6,000 outputtokens bij medium en 35,000 bij max, een verhouding van ongeveer 5.8x. Als je de 1,500 outputtokens vermenigvuldigt met 35/6, kom je uit op 8,750 per verzoek, of 87.5M per maand. Output kost dan 87.5M x $5 = $437.50. Het maandtotaal komt uit op $1.25 + $15.00 + $437.50 = $453.75, ongeveer vijf keer zoveel als de rekening bij medium. Max effort kost veel meer dan het verlies van de cache.

In alle gevallen vormen de outputkosten het grootste deel. Bij medium is dat $75 van de $91.25, oftewel 82% van de rekening. Daarom is effort de eerste instelling om naar te kijken, niet de inputprijs.

Kosten per taak vergeleken met Sol, Sonnet 5.5 en GPT-5.6 Terra

Dezelfde workload en hetzelfde aantal tokens (25M gecacht, 15M nieuwe input en 15M output), met voor elk model de eigen officiële prijzen:

Bij hetzelfde aantal tokens kost Terra de helft van Sol en Sonnet 5.5 en ongeveer 42% van GPT-5.6 Terra. Maar datzelfde aantal tokens is wel een belangrijke voorwaarde: modellen besteden niet evenveel tokens aan redeneren voor dezelfde taak, en Terra kan bij een hogere effort meer tokens gebruiken dan Sol bij een lagere.

De gemeten kosten per taak laten dat zien. De cijfers hieronder zijn afkomstig van Artificial Analysis, een onafhankelijke benchmark die elk model de Intelligence Index liet doorlopen met de vermelde effortinstelling.

De regel voor Sonnet 5.5 is de standaardinstelling van Artificial Analysis voor max effort.

Hieruit volgen drie conclusies. Terra bij medium is de goedkoopste optie in de tabel, en Artificial Analysis noemt low en medium effort voor Terra Pareto-optimaal. Redeneren uitschakelen leverde in deze test geen besparing op: zonder redeneren kostte een taak $0.11 en was de score 33. Aan de andere kant kost Terra bij max ($0.40) ongeveer evenveel als Sol bij xhigh ($0.39), dat hoger scoort, en evenveel als Sol bij medium voor bijna het dubbele van de prijs. Sonnet 5.5 scoort het hoogst, maar gebruikte bij max effort ongeveer 197,000 outputtokens per taak.

Andere gepubliceerde tests wijzen in dezelfde richting. In de data-analysebenchmark van Plotly, uitgevoerd met de standaardinstelling voor effort via OpenRouter, scoorde Terra 40 van de 43 voor $1.31 per volledige uitvoering. Sol scoorde 43 van de 43 voor $2.61, met ongeveer 1,460 outputtokens per vraag. De eigen lanceringsgrafieken van OpenAI, die zelfgerapporteerd zijn en hier zijn overgenomen zoals getranscribeerd door Kingy AI, geven voor Terra bij max effort kosten van $1.19 per taak op de offline set OSWorld 2.1, tegenover $1.15 voor Sol. Bij max effort voor agenttaken kan Terra's korting per token verdwijnen.

Wie meer betaalt dan verwacht

• Teams die standaard max effort gebruiken. Bij hetzelfde verkeer kan de rekening vijf keer zo hoog uitvallen als bij medium. Codex-gebruikers op Reddit melden dat Terra bij high effort hun plangrenzen snel opgebruikt; één gebruiker zei dat 40% van een limiet van vijf uur er in 20 minuten doorheen ging. Dat zijn anekdotes, maar ze komen overeen met de bovenstaande tokentellingen.
• RAG met lange context, dicht bij 272K. Een retrievalstap die soms nog een paar chunks toevoegt, duwt sommige verzoeken over de grens; die verzoeken kosten dan ongeveer twee keer zoveel.
• Gemengd verkeer via Chat Completions en Responses. De twee routes hebben op AIHubMix afzonderlijke caches. Daardoor wordt dezelfde prefix twee keer geschreven en heeft de effortinstelling op de Chat-route geen zichtbaar effect.

Stappen om de rekening te verlagen

1. Stel effort per workload in, niet per account. Begin met medium, de standaardinstelling van Terra, en test low of none voor eenvoudige taken zoals extractie, classificatie en opmaak. Meet zowel de kwaliteit als de kosten met je eigen prompts, want in de test van Artificial Analysis was none niet goedkoper dan medium. Bewaar high en max voor verzoeken die bij medium niet slagen.

2. Zet de stabiele prefix vooraan en gebruik steeds dezelfde route. Zet de systeemprompt, tooldefinities en referentiemateriaal aan het begin van elk verzoek, steeds in dezelfde volgorde, en plaats daarna alles wat varieert (gebruikersinput, tijdstempels, opgehaalde chunks). Een prefix moet minstens 1,024 tokens bevatten om gecachet te kunnen worden. Stuur de workload via één route; gebruik op AIHubMix Responses, waar effort effect heeft.

3. Gebruik de expliciete modus om niet te betalen voor schrijfbewerkingen die je niet opnieuw gebruikt. Als prompt_cache_options.mode is ingesteld op "explicit", worden alleen de breekpunten die je markeert weggeschreven. Inhoud na het laatste breekpunt wordt gefactureerd tegen het normale invoertarief, zonder schrijfkosten. Dat is geschikt voor materiaal dat per verzoek verschilt, zoals de vraag van de gebruiker. De expliciete modus zonder breekpunten betekent dat er helemaal niets wordt gecachet; uit de controles van AIHubMix bleek dat zo'n verzoek niets wegschreef.

4. Bereken welke cacheduur je kiest. Per miljoen prefix-tokens kost een schrijfbeurt van 30 minuten $1.25 en een schrijfbeurt van 12 uur $2.50; lezen kost in beide gevallen $0.05. Als er door onderbrekingen in het verkeer binnen 12 uur drie of meer schrijfbeurten nodig zijn met caching van 30 minuten ($3.75 of meer), is één schrijfbeurt van 12 uur goedkoper. Bij twee schrijfbeurten ($2.50) zijn de kosten gelijk. Bij constant verkeer dat de entry van 30 minuten actief houdt, kun je beter de cacheduur van 30 minuten aanhouden. Uit de controles van AIHubMix bleek dat de instelling voor 12 uur werkt op Terra: een prefix van 9,020 tokens werd bij de eerste aanroep weggeschreven als ttl_12h_tokens, en bij de tweede aanroep werden 9,007 van die tokens gelezen.

5. Blijf onder 272K invoertokens. Stel een tokenlimiet in voor opgehaalde informatie in plaats van een limiet op het aantal fragmenten, verwijder verouderde gespreksbeurten en vat lange gesprekshistorieken samen voordat ze de grens overschrijden. OpenAI documenteert ook een functie voor contextcompactie voor lange contexten, maar AIHubMix heeft die niet op Terra getest.

6. Wijzig de inspanning met configuration_update, niet met het verzoekveld. In de GPT-6-modelhandleiding raadt OpenAI aan de inspanning op verzoekniveau vast te houden en een configuration_update-invoerelement toe te voegen om de inspanning tijdens een gesprek te verhogen of te verlagen. Tijdens de tests van AIHubMix op 27 oktober werd een configuration_update-element geaccepteerd op Terra (200).

7. Leg bij elk antwoord de gebruiksvelden vast. De velden die inzicht geven in een Terra-factuur zijn input_tokens_details.cached_tokens (gefactureerde leesbewerkingen), cache_write_tokens met de uitsplitsing ttl_30m_tokens en ttl_12h_tokens, en output_tokens_details.reasoning_tokens. Deel het totale aantal gecachete tokens door het totale aantal invoertokens om het cache-hitpercentage te berekenen, uitgesplitst per dag of functie.

Kosten per verzoek loggen in Python

Het voorbeeld gebruikt de OpenAI SDK met het Responses-eindpunt van AIHubMix. Het stelt de redeneerinspanning in, geeft prompt_cache_options door via extra_body en print de gebruiksvelden met een geschatte kostprijs tegen de standaardtarieven. De installatiestappen staan in de Responses API-documentatie van AIHubMix; het gedrag van caching via de gateway wordt behandeld in de cachingdocumentatie van AIHubMix.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
)

# Keep this identical across requests so it can be cached (1,024+ tokens).
STABLE_PREFIX = open("support_rules.txt").read()

# Terra standard rates, USD per 1M tokens, input up to 272K.
PRICE = {"input": 1.00, "cached": 0.05, "write_30m": 1.25,
         "write_12h": 2.50, "output": 5.00}

resp = client.responses.create(
    model="gpt-6.1-terra",
    reasoning={"effort": "low"},  # none, low, medium, high, xhigh, max
    input=[
        {"role": "developer", "content": STABLE_PREFIX},
        {"role": "user", "content": "Classify this ticket: refund not received."},
    ],
    extra_body={"prompt_cache_options": {"ttl": "30m"}},  # or "12h"
)

u = resp.usage.model_dump()
inp = u["input_tokens_details"]
cached = inp.get("cached_tokens", 0)
writes = inp.get("cache_write_tokens", 0)
by_ttl = inp.get("cache_write_tokens_details") or {}
w12 = by_ttl.get("ttl_12h_tokens", 0)
w30 = writes - w12
ordinary = u["input_tokens"] - cached - writes
reasoning = u["output_tokens_details"].get("reasoning_tokens", 0)

cost = (ordinary * PRICE["input"] + cached * PRICE["cached"]
        + w30 * PRICE["write_30m"] + w12 * PRICE["write_12h"]
        + u["output_tokens"] * PRICE["output"]) / 1_000_000

print(f"input={u['input_tokens']} cached={cached} writes={writes} (12h={w12})")
print(f"output={u['output_tokens']} reasoning={reasoning}")
print(f"estimated cost=${cost:.6f}")

De formule volgt de cachinghandleiding van OpenAI: de gewone invoer is input_tokens minus cached_tokens minus cache_write_tokens; het totaal voor schrijfbeurten wordt niet nog eens boven op de afzonderlijke onderdelen geteld. Vervang bij meer dan 272,000 invoertokens de tarieven door die voor lange contexten ($2, $0.10, $2.50 voor schrijfbeurten van 30 minuten, $5 voor schrijfbeurten van 12 uur, $7.50 voor uitvoer). Verstuur dezelfde prefix twee keer binnen 30 minuten; het tweede antwoord hoort die prefix onder cached_tokens te tonen. Is dat niet zo, dan is er iets veranderd in de prefix.

Veelgestelde vragen

Is GPT-6.1 Terra goedkoper via AIHubMix dan bij OpenAI?
Nee. AIHubMix vermeldt dezelfde standaardtarieven: $1 voor invoer, $0.05 voor het lezen van de cache en $5 voor uitvoer per miljoen tokens. Voor Terra publiceert het geen tarieven voor schrijven naar de cache of lange contexten. De schrijftarieven van $1.25 en $2.50 en de 2x-tarieven boven 272K zijn dus de voorwaarden van OpenAI, totdat je gebruikslog bevestigt wat de gateway in rekening brengt.

Is de Batch- of Flex-korting beschikbaar via AIHubMix?
Niet als bevestigde optie. De Batch- en Flex-korting van 50% geldt bij OpenAI, en AIHubMix biedt de Batch API van OpenAI niet aan. Flex-verzoeken werden tijdens de tests van AIHubMix geaccepteerd, maar op de prijslijst van AIHubMix staan voor Terra alleen de standaardtarieven. Controleer dus je gebruikslog voordat je rekent op een lagere prijs.

Kosten redeneertokens extra?
Ze worden gefactureerd tegen het uitvoertarief van $5 per miljoen tokens, als onderdeel van output_tokens. Het gebruiksobject rapporteert ze afzonderlijk als reasoning_tokens, zodat je kunt zien hoeveel van de uitvoer uit redeneringen bestond.

Wat gebeurt er met een verzoek met 280,000 invoertokens?
Het hele verzoek wordt gefactureerd tegen de tarieven voor lange contexten: $2 per miljoen invoertokens, $0.10 voor gecachete tokens en $7.50 voor uitvoer. Dus niet alleen de 8,000 tokens boven de grens.

Is de cacheduur van 12 uur de moeite waard?
Alleen als een entry van 30 minuten anders drie of meer keer binnen 12 uur zou worden weggeschreven. Een schrijfbeurt van 12 uur kost $2.50 per miljoen tokens, tegenover $1.25 voor 30 minuten; lezen kost in beide gevallen $0.05.

Waarom is de maximale inspanning zoveel duurder?
Artificial Analysis mat bij de maximale inspanning ongeveer 35,000 uitvoertokens per taak, tegenover 6,000 bij gemiddelde inspanning. De kosten per taak stegen van $0.10 naar $0.40. In het uitgewerkte voorbeeld hierboven stijgen de maandkosten van $91.25 naar $453.75 als je van gemiddelde naar maximale inspanning gaat.

Kost Terra altijd de helft van Sol?
Per token wel. Per taak niet altijd: bij maximale inspanning kost Terra per taak ongeveer evenveel als Sol bij xhigh in de test van Artificial Analysis, en Sol scoorde daar hoger.

Lees verder: de GPT-6.1 Terra-serie

• Wil je zien wat je voor de gehalveerde prijs krijgt vergeleken met het model dat Terra vervangt? Lees dan: GPT-6.1 Terra vs GPT-5.6 Terra: Half the Price, What Changed, and Who Should Switch
• Voordat je verkeer naar Responses verplaatst om inspanningsinstellingen en caching te laten werken: Migrating to GPT-6.1 Terra: Fix the temperature 400s, Move Tools to Responses, and Set Up Codex
• Vergelijk je Terra met een concurrent die twee keer zoveel per token kost? Lees dan: GPT-6.1 Terra vs Claude Sonnet 5.5: Which Mid-Tier Model for Screen and Document Agents?
• Wanneer Terra met maximale inspanning per taak evenveel kost als Sol: GPT-6.1 Terra vs GPT-6.1 Sol: Which Tasks Still Need Sol?

Bronnen

• OpenAI, GPT-6.1 Terra-modelpagina: prijzen, regel voor lange contexten, contextlimieten en inspanningsniveaus.
• OpenAI, Handleiding voor promptcaching: schrijf- en leestarieven, cacheduur, expliciete modus en gebruiksvelden.
• AIHubMix, GPT-6.1 Terra-modelpagina: prijzen en toegang via AIHubMix.
• Artificial Analysis, GPT-6.1 Terra verlegt de grenzen van kostenefficiëntie: kosten en uitvoertokens per taak, uitgesplitst naar inspanningsniveau.
• Kingy AI, GPT-6.1 Terra: benchmarks, prijzen, specificaties en vergelijking: prijsklassen, het voorbeeld van de grens bij 272K en transcripties van waarden uit grafieken van OpenAI.