Scegliere il livello di reasoning effort per GPT-6.1 Sol: da low a max

AIHubMix6 min di lettura
Scegliere il livello di reasoning effort per GPT-6.1 Sol: da low a max

GPT-6.1 Sol prevede cinque livelli di reasoning effort: low, medium (predefinito), high, xhigh e max. Il cambiamento più importante rispetto a GPT-6 Sol è che none e minimal sono stati eliminati, quindi low è ora il livello minimo.

Questa singola impostazione determina sia la latenza sia il costo. I reasoning token non sono visibili, ma vengono fatturati alla tariffa dell'output ($10 per milione per 6.1 Sol su AIHubMix) e occupano spazio nella context window. Scegliere il livello sbagliato può farti pagare facilmente diverse volte più del necessario.


A cosa serve ciascun livello

Questa tabella combina le descrizioni di OpenAI dalla guida al reasoning con le nostre raccomandazioni:

LivelloDescrizione di OpenAIAdatto aNon adatto a
lowRagionamento efficiente con un modesto aumento della latenzaPassaggi intermedi nei cicli di tool, ricerca, pianificazione leggera, classificazione, estrazione, risposte di supportoDebugging complesso, refactoring su più file
medium (predefinito)Il default bilanciato per la maggior parte dei carichi di lavoroProgrammazione quotidiana, code review, scrittura, attività tipiche degli agentUso interattivo in cui la latenza è critica
highRagionamento complesso, debugging difficile, pianificazione approfonditaBug complessi, lavoro sull'architettura, attività in stile SWETraffico online ad alto QPS
xhighRicerca approfondita, lavoro asincrono, lunghe esecuzioni di agentJob in background, report di ricercaQualsiasi cosa non giustificata dalle tue valutazioni
maxRagionamento massimo per i compiti più difficiliUso del computer, problemi di livello di ricerca, elaborazioni pesanti offlineQuasi tutte le richieste quotidiane

OpenAI definisce l'effort "una manopola di regolazione, non il modo principale per recuperare la qualità". Quando i risultati sono scadenti, controlla prima il prompt, le definizioni dei tool e il contesto. Aumenta l'effort solo dopo.


Cosa dicono i benchmark su ciascun livello

Si tratta dei numeri ufficiali di OpenAI, raccolti da Vellum e DataCamp. Consideralo una guida, non una verità assoluta.

Per la programmazione, high di solito basta. Su DeepSWE v1.1, 6.1 Sol con high ottiene 75,2, eguagliando Astra con high (74,8), per circa $1,50 per attività. La sua curva dei costi raggiunge dal 72% al 75% con un costo compreso tra $0,50 e $1,50 per attività. GPT-6 Sol con il massimo ha ottenuto 68,8 per circa $2,60.

Andare oltre medium non sempre aiuta. Su AutomationBench, 6.1 Sol ottiene il 35,4% con medium e solo circa il 36,0% con un effort superiore. Per l'automazione aziendale, i token di reasoning extra hanno portato quasi nessun vantaggio.

Riserva max per l'uso del computer e la ricerca. Su OSWorld 2.0, max ottiene 71,4 con circa $1,30 per attività. Terminal-Bench Science con max costa $5,47 per attività: molto meno di Astra, che costa $23,80, ma un ordine di grandezza sopra la maggior parte degli altri carichi di lavoro.

Anche low è migliorato. Il tasso di errori fattuali con low è sceso dall'11,4% di 6 Sol al 7,7%. Se su 6 Sol hai alzato le attività a medium perché low non era abbastanza preciso, prova di nuovo low.


Punti di partenza per caso d'uso

Caso d'usoInizia daNote
Chiamate che usavano none su 6 SollowLa corrispondenza ufficiale di OpenAI. Se la latenza è critica, valuta GPT-6 Luna, che supporta ancora none
Chiamate che usavano minimallowInizia da low e confronta i risultati
Chatbot, supporto clientilowChiedi al modello una breve premessa di una riga per ottenere prima il primo token
Q&A con RAGlow → mediumLa qualità del retrieval conta più dell'effort
Assistente di coding nell'IDEmediumIl default funziona
Correzione automatica dei bug, agent SWEhighDeepSWE mostra che high eguaglia già Astra
Uso del computer, agent per browserhigh → maxOSWorld raggiunge il picco con max
Ricerca in background, esecuzioni lunghexhighSolo quando le valutazioni mostrano un miglioramento. Batch dimezza il costo se non ti servono risultati immediati
I problemi di ricerca più difficilimax, oppure usa direttamente AstraAnche qui OpenAI raccomanda Astra

Le corrispondenze none e minimal provengono dalla guida alla migrazione a GPT-6 di OpenAI.


Cambiare l'effort a metà conversazione

Uno schema comune è pianificare con high, eseguire con low e tornare a high quando qualcosa non funziona.

Il problema: modificare reasoning.effort nella richiesta invalida la cache del prompt. L'effort fa parte del prefisso memorizzato nella cache (vedi la guida al prompt caching). Su 6.1 Sol una lettura dalla cache costa $0,10 per milione di token, mentre riscrivere la cache costa $2,50. Si tratta di una differenza di 25×.

La famiglia GPT-6 risolve il problema con un elemento di input configuration_update. Lascia invariato il reasoning.effort a livello di richiesta e inserisci un aggiornamento prima del messaggio successivo dell'utente. Ecco come appare tramite la Responses API di AIHubMix:

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

# Turn 1: plan at high effort
r1 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},
    input="Figure out why this repo's tests are failing and propose a fix plan.",
)

# Turn 2: drop to low for execution, without touching request-level effort
r2 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},           # unchanged, so the cache survives
    previous_response_id=r1.id,
    input=[
        {"type": "configuration_update", "reasoning": {"effort": "low"}},
        {"role": "user", "content": "Carry out step 1 of the plan."},
    ],
)
La struttura configuration_update mostrata sopra è indicativa. Controlla la guida al reasoning di OpenAI per lo schema esatto. La documentazione Responses di AIHubMix elenca attualmente quattro livelli (da minimal a high), quindi invia una piccola richiesta di prova per verificare che xhigh, max e configuration_update vengano inoltrati correttamente.

Alcuni limiti da conoscere:

  • Funziona solo nella modalità standard single-agent e modifica solo l'effort.
  • Due aggiornamenti non possono stare uno accanto all'altro.
  • Non è compatibile con la compattazione o il troncamento automatici. La compattazione esplicita va bene, ma aggiungi dopo un nuovo aggiornamento.
  • Il campo reasoning.effort della risposta mostra ancora il valore a livello di richiesta, quindi non attribuirgli troppa importanza.

Impostazioni che accompagnano l'effort

Lascia spazio in max_output_tokens. Il limite include i reasoning token. Se lo imposti troppo basso, il modello può fermarsi prima di produrre qualsiasi testo visibile. Otterrai status: incomplete e pagherai comunque input e reasoning. OpenAI suggerisce di riservare almeno 25.000 token all'inizio, e di più per xhigh o max.

Monitora i reasoning token. Sono in usage.output_tokens_details.reasoning_tokens. Osservare la distribuzione per livello di effort è meglio che regolare a sensazione.

Attiva i riepiloghi se ti serve visibilità. reasoning.summary: "auto" restituisce un riepilogo del ragionamento del modello (potresti dover prima verificare la tua organizzazione). Il ragionamento grezzo non viene mai esposto.

La modalità Pro è un interruttore separato. Fa lavorare il modello di più, fatturato alle tariffe standard ma con più token in totale. Usala per problemi difficili in cui una latenza maggiore è accettabile.


Un processo di regolazione che puoi davvero eseguire

  1. Raccogli da 20 a 50 attività reali in un insieme di valutazione.
  2. Esegui una baseline con medium. Registra il tasso di successo, la media dei reasoning token e la latenza P95.
  3. Prova low. Se il successo cala di poco, passa a low.
  4. Prova high. Se il successo migliora in modo evidente, usa high solo per quel tipo di attività.
  5. Ricorri a xhigh o max solo quando high non basta, e confronta il risultato con GPT-6 Astra con high. A volte un modello più grande batte un effort maggiore. Su AIHubMix basta cambiare il parametro model e la lista dei modelli mostra cosa è disponibile.
  6. Instrada le richieste in base al tipo di attività invece di usare un'unica impostazione globale.

In sintesi: parti da medium, risparmia con low, usa high per la programmazione e fai in modo che xhigh e max dimostrino il proprio valore nelle tue valutazioni.

Il prossimo articolo: cosa significa davvero il prezzo di $2 / $10 quando entrano in gioco caching, contesto lungo e moltiplicatori di fatturazione.


FAQ

Qual è il reasoning effort predefinito per GPT-6.1 Sol? medium. Se non lo imposti, questo è ciò che ottieni.

Perché none restituisce un errore? 6.1 Sol non supporta none né minimal. OpenAI consiglia di passare a low. Se ti serve davvero none, resta su GPT-6 Sol o GPT-6 Luna.

Come vengono fatturati i reasoning token? Alla tariffa dell'output ($10 per milione per 6.1 Sol), e contano nella context window. Per i valori effettivi controlla usage.output_tokens_details.reasoning_tokens.

Il nome del parametro è lo stesso in Chat Completions e Responses? No. Chat Completions usa un campo di primo livello reasoning_effort. Responses usa un campo annidato reasoning: {"effort": ...}. Confonderli restituisce Unsupported parameter.

Un effort più alto dà sempre risultati migliori? No. Su AutomationBench, andare oltre medium ha fatto salire il punteggio solo dal 35,4% a circa il 36,0%, a fronte di un costo sensibilmente maggiore. Verifica sulle tue attività.

Posso cambiare l'effort a metà conversazione? Sì. Usa un elemento configuration_update e lascia invariato il reasoning.effort a livello di richiesta, così la cache del prompt resta valida. Non funziona con la compattazione o il troncamento automatici.

Perché ho ricevuto status: incomplete senza output? Molto probabilmente max_output_tokens era troppo basso e il reasoning lo ha esaurito. OpenAI consiglia di riservare almeno 25.000 token.


Continua a leggere: la serie GPT-6.1 Sol


Fonti

Un unico gateway per più provider di IA. Pensato per la produzione.

Visita AIHubMix