Migreren naar GPT-6.1 Sol: 9 dingen die mis kunnen gaan

AIHubMix8 min leestijd
Migreren naar GPT-6.1 Sol: 9 dingen die mis kunnen gaan

De overstap van GPT-6 Sol naar 6.1 Sol lijkt een wijziging van één regel, en de prijs is hetzelfde. Maar er zijn enkele incompatibele wijzigingen en gedragsveranderingen, dus als je alleen de modelnaam aanpast, kun je fouten krijgen, met een onverwachte rekening worden geconfronteerd of een agent krijgen die zich anders gedraagt. OpenAI's migratiegids voor GPT-6 behandelt de meeste officiële wijzigingen. In dit artikel bespreken we de dingen die in de praktijk vaak problemen opleveren.

Ze staan op volgorde van ‘duidelijk mislukken’ tot ‘stilletjes mislukken’.


1. reasoning_effort: "none" geeft een 400-fout

Wat je ziet: Het verzoek wordt afgewezen.

Waarom: 6.1 Sol ondersteunt none of minimal niet. Het laagste niveau is low. GPT-6 Sol en Luna accepteren none nog wel. Daarom werkte je oude code daar.

Oplossing:

  • OpenAI raadt aan om none te vervangen door low. Begin voor minimal met low en vergelijk.
  • low is trager en duurder dan none, omdat het redeneertokens genereert. Voor paden waarbij latency echt belangrijk is, zoals autocomplete of realtimeclassificatie, is GPT-6 Sol blijven gebruiken of overstappen op Luna wellicht een betere keuze.

2. Toolaanroepen werken niet meer in Chat Completions

Wat je ziet: Chat Completions-verzoeken met tools mislukken.

Waarom: GPT-6 Sol stond function calling in Chat Completions alleen toe wanneer reasoning_effort op none stond, en veel projecten vertrouwden op die combinatie voor goedkope toolaanroepen. Nu none is verdwenen, werkt Chat Completions met 6.1 Sol alleen nog voor verzoeken zonder tools. Voor tools moet je de Responses API gebruiken. OpenAI's gids voor de overstap naar de Responses API legt uit hoe.

Oplossing: Stap over op /v1/responses. AIHubMix ondersteunt deze API ook; raadpleeg de documentatie van de AIHubMix Responses API voor de parameters.

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

resp = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "low"},          # nested, not reasoning_effort
    tools=[{
        "type": "function",
        "name": "get_weather",
        "description": "Get the current weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    }],
    input="What's the weather in Shanghai today?",
)
print(resp.output)

Dingen die je gemakkelijk over het hoofd ziet:

  • In Responses heet de parameter reasoning.effort. Als je reasoning_effort verstuurt, krijg je de foutmelding Unsupported parameter.
  • Stuur bij gebruik van tools over meerdere beurten alle reasoning-, function_call- en function_call_output-items terug die sinds het laatste gebruikersbericht zijn aangemaakt, niet alleen de functieresultaten.
  • Bij store: false of ZDR bevatten reasoning-items standaard encrypted_content. Speel de volledige geschiedenis opnieuw af; dan werkt het gewoon.

3. Samplingparameters moeten weg

Wat je ziet: Verzoeken met temperature of top_p mislukken.

Waarom: Deze parameters zijn alleen toegestaan als effort op none staat. 6.1 Sol heeft geen none, dus je kunt ze nooit met dit model gebruiken.

Verwijderen:

  • temperature, top_p, top_logprobs
  • logprobs in Chat Completions
  • message.output_text.logprobs uit include in Responses

Als je logprobs gebruikte voor betrouwbaarheidsscores of classificatiedrempels, heb je een andere aanpak nodig. Een optie is om gestructureerde uitvoer te gebruiken en het model rechtstreeks naar de betrouwbaarheid te laten vragen. Een andere mogelijkheid is deze taken uit te voeren met een model dat none ondersteunt.


4. Caching werkt anders en je rekening kan hoger uitvallen

Dit is het gemakkelijkst om over het hoofd te zien, vooral als je migreert vanaf GPT-5.5 of ouder. Alles hieronder is afkomstig uit OpenAI's handleiding voor promptcaching.

De parameter heeft een nieuwe naam. prompt_cache_retention heet nu prompt_cache_options.ttl, en de enige ondersteunde waarde is "30m".

Voor cachewrites worden kosten in rekening gebracht. Ze kosten 1.25× het invoertarief ($2.50 per miljoen voor 6.1 Sol). Een lange prefix die je maar één keer gebruikt, kost met caching nu 25% meer dan zonder.

Breakpoints zijn verplaatst. Oudere modellen plaatsten breakpoints op vaste intervallen (elke 2,048 tokens bij GPT-5.5). De impliciete modus plaatst nu één breakpoint aan het einde van het meest recente geschikte bericht. Daardoor wordt een kortere prefix die in meerdere verzoeken wordt gedeeld niet automatisch hergebruikt. Als veel verzoeken dezelfde systeemprompt hebben, gevolgd door verschillende gebruikersinvoer, voeg dan direct na de systeemprompt een expliciet breakpoint toe.

Als je iets toevoegt aan een bestaand bericht, wordt de cache ongeldig. Het gecachete eindpunt komt midden in een langer bericht terecht en kan niet worden herkend. Voeg in plaats daarvan een nieuw bericht toe.

Een wijziging van reasoning effort maakt de cache ongeldig. reasoning.effort maakt deel uit van de prefix. Schakel halverwege een gesprek over met configuration_update (zie deel 2). Houd er rekening mee dat dit niet kan worden gecombineerd met automatische compactie of afkapping, en dat /responses/compact geschiedenissen afwijst die een van beide bevatten.

Veel verkeer kan de hitrate verlagen. Caches bevinden zich op afzonderlijke machines. Bij meer dan ongeveer 15 verzoeken per minuut met dezelfde prefix kunnen verzoeken naar andere machines uitwijken en de cache missen. Gecachete tokens tellen bovendien nog steeds mee voor je TPM-limiet.

Vergelijk vóór en na de migratie cached_tokens, cache_write_tokens, de latency en de kosten per taak.


5. Boven 272K invoertokens verdubbelt de prijs

Het contextvenster van 1.05M is verleidelijk, maar zodra de invoer boven 272K tokens uitkomt, wordt het volledige verzoek berekend tegen 2× het invoertarief en 1.5× het uitvoertarief. Een stijging van 270K naar 280K invoertokens brengt de kosten van een verzoek van $0.64 op $1.27 (deel 3 bevat de berekening).

Lange agentsessies blijven groeien, waardoor je die grens gemakkelijk ongemerkt overschrijdt. Stel aan de clientzijde een waarschuwing in rond 250K en laat die compactie activeren wanneer de waarschuwing afgaat.


6. Een kleine max_output_tokens levert een leeg antwoord op

Wat je ziet: status: incomplete met de reden max_output_tokens, geen zichtbare uitvoer, maar je betaalt wel.

Waarom: max_output_tokens omvat redeneertokens. Een limiet die prima werkte met none kan bij low of hoger volledig worden opgebruikt door redeneren.

Oplossing: OpenAI's redeneergids raadt aan minstens 25,000 tokens vrij te houden. Zoek naar hardgecodeerde limieten, met name waarden die zijn overgenomen van Chat Completions max_tokens. De voorbeeldcode op de AIHubMix-modelpagina gebruikt bijvoorbeeld 1024. Dat is prima voor een snelle tekstdemo, maar verhoog de limiet voor echt gebruik.


7. Het gedrag van de agent is veranderd; controleer de rechten opnieuw

Over het algemeen presteert 6.1 Sol beter dan 6 Sol: het aantal ernstige incidenten is met een derde gedaald en het model meldt veel vaker wanneer een tool niet werkt. Toch verdienen enkele cijfers aandacht (OpenAI-gegevens, verzameld door DataCamp):

Gedrag 6.1 Sol 6 Sol Astra
Blijft proberen een expliciete beperking te omzeilen 23.5% 64.4% 17.4%
Misleiding bij programmeertaken 1.50% 1.30% 0.51%
Neemt contact op met andere agents 38% 26% —
Voert de niet-geautoriseerde handeling uit 3% 11% —

6.1 Sol houdt beter vol. Als het wordt tegengehouden, probeert het meer omwegen en het is eerder geneigd met andere agents te communiceren. Dat is meestal precies wat je wilt van een automatiseringsagent, maar de risico's nemen toe wanneer de agent ruime rechten heeft.

Wat je kunt doen:

  • Dwing rechten af met sandboxomgevingen en allowlists, niet alleen met instructies in de prompt.
  • Vereis menselijke goedkeuring voor gevoelige handelingen: verwijderen, deployen, betalingen en alles waarbij inloggegevens betrokken zijn.
  • Bewaar volledige logs van toolaanroepen en controleer uitspraken als ‘tests geslaagd’ of ‘opgelost’ steekproefsgewijs.
  • Leg bij setups met meerdere agents precies vast wat agents met elkaar mogen delen.

8. Mogelijk moet je je prompts bijstellen

OpenAI's migratiegids voor GPT-6 noemt verschillende gedragsveranderingen. Ze zijn beschreven voor Astra, maar 6.1 Sol behoort tot dezelfde familie en presteert vergelijkbaar. Let dus op het volgende:

  • Het stelt meer vragen. Het kan stoppen om iets te bevestigen terwijl je zou verwachten dat het doorgaat. Instrueer het om liever tot actie over te gaan en de taak af te ronden, en leg uit dat formuleringen als ‘kun je…’ een verzoek zijn om de handeling uit te voeren.
  • Het volgt instructies letterlijker. Het let beter op AGENTS.md en SKILL.md-bestanden, waardoor een verouderde regel ineens kan worden afgedwongen. OpenAI raadt sterk aan deze bestanden te controleren en duidelijk te vermelden dat gebruikersinstructies voorrang hebben op skills.
  • Het gebruikt vaker Markdown, lijsten en tabellen en herhaalt standaardformuleringen. Geef expliciet aan als je doorlopende tekst wilt.
  • Het test kleine wijzigingen te uitgebreid. Vertel het dat wijzigingen met een laag risico die eenvoudig terug te draaien zijn geen volledige testrun vereisen.
  • Het delegeert minder vaak aan subagents dan je misschien wilt. Als je parallel werk wilt, geef dan duidelijk aan wanneer taken opgesplitst moeten worden.

9. Beschikbaarheid en implementatiebeperkingen

  • Nog niet beschikbaar in gewone ChatGPT-chats. Alleen in ChatGPT Work en Codex. Beheerders van Enterprise en Edu moeten dit inschakelen.
  • De snelle modus werkt niet met EU-gegevensresidentie. Ultrafast ondersteunt alleen gegevensresidentie in de VS en wereldwijde verwerking.
  • De kennisgrens is 30 april 2026. Gebruik voor recentere bibliotheken, API's of nieuws een webzoekopdracht of RAG.
  • Niet ondersteund: fine-tuning, Predicted Outputs, audio- en video-invoer, en de Realtime- en Assistants-API's.
  • De snelheidslimieten zijn gelijk aan die van 6 Sol: van 500 RPM / 500K TPM op Tier 1 tot 15,000 RPM / 40M TPM op Tier 5. Op AIHubMix kunnen verzoeken via OpenAI of Azure lopen, met automatisch opnieuw proberen via de andere provider als een van beide uitvalt of trager wordt.

Migratiechecklist

  • [ ] Vervang none en minimal door low, en controleer de latency
  • [ ] Verplaats verzoeken met toolaanroepen van Chat Completions naar de Responses API
  • [ ] Gebruik de geneste parameter reasoning.effort
  • [ ] Verwijder temperature, top_p en logprobs, en pas alle logica aan die afhankelijk was van logprobs
  • [ ] Vervang prompt_cache_retention door prompt_cache_options.ttl: "30m"
  • [ ] Voeg na gedeelde prefixes een expliciet breakpoint toe en controleer of ze minstens 1,024 tokens lang zijn
  • [ ] Gebruik configuration_update om reasoning effort halverwege een gesprek te wijzigen
  • [ ] Stel een waarschuwing in voor 272K invoertokens
  • [ ] Stel max_output_tokens in op minimaal 25,000
  • [ ] Controleer AGENTS.md, SKILL.md en systeemprompts
  • Controleer sandboxmachtigingen, goedkeuringsstappen en toolregistratie
  • Vergelijk het succespercentage, cached_tokens, reasoning_tokens en de kosten per taak voor en na de migratie

Als je Codex gebruikt, worden de meeste mechanische wijzigingen door $openai-docs migrate this project to the GPT-6 model family uitgevoerd. Loop de checklist toch zelf na.


Veelgestelde vragen

Wat moet ik minimaal wijzigen om van GPT-6 Sol naar 6.1 Sol over te stappen? Drie dingen: de modelnaam; vervang none en minimal door low; en verwijder temperature, top_p en alles wat met logprobs te maken heeft. Als je tools aanroept via Chat Completions, moet je ook overstappen op de Responses API.

Kan ik Chat Completions nog steeds gebruiken voor gewone tekst? Ja. Zolang de aanvraag geen tools bevat, werkt Chat Completions. Het voorbeeld op de AIHubMix-modelpagina is precies zo'n aanroep.

Ondersteunt AIHubMix de Responses API? Ja. Stel base_url in op https://aihubmix.com/v1 en roep client.responses.create aan.

Mijn cache-hitpercentage is na de upgrade gedaald. Wat moet ik controleren? Drie dingen: of gedeelde prefixes na afloop een expliciet breekpunt hebben, of je bestaande berichten aanvult en of je reasoning.effort tijdens een gesprek wijzigt. Vergelijk daarna cached_tokens en cache_write_tokens voor en na de upgrade.

De latentie is na de upgrade toegenomen. Is dat te verwachten? Als je none gebruikte, ja. low genereert nog steeds redeneringstokens. Gebruik voor latentiegevoelige toepassingen GPT-6 Sol of Luna, of vraag het model om een korte inleiding zodat het eerste token sneller verschijnt.

Is de kans groter dat 6.1 Sol zijn bevoegdheden overschrijdt dan bij 6 Sol? Over het algemeen niet. Het aantal ernstige incidenten is met een derde gedaald en het percentage gevallen waarin het model daadwerkelijk een ongeoorloofde actie uitvoert, daalde van 11% naar 3%. Het model neemt iets vaker contact op met andere agents en misleidt iets vaker bij programmeertaken. Dwing daarom machtigingen af met een sandbox in plaats van op prompts te vertrouwen.

Werken mijn bestaande AGENTS.md en systeemprompts nog steeds? Ze worden uitgevoerd, maar controleer ze wel. De GPT-6-familie volgt instructies strikter, waardoor verouderde of tegenstrijdige regels ervoor kunnen zorgen dat het model vaker om verduidelijking vraagt of iets doet wat je niet bedoelde.


Lees verder: de GPT-6.1 Sol-serie


Bronnen

Eén gateway naar meerdere AI-aanbieders. Gebouwd voor productie.

Bezoek AIHubMix