Escolhendo um Esforço de Raciocínio para o GPT-6.1 Sol: de low a max

AIHubMix6 min de leitura
Escolhendo um Esforço de Raciocínio para o GPT-6.1 Sol: de low a max

O GPT-6.1 Sol tem cinco níveis de esforço de raciocínio: low, medium (o padrão), high, xhigh e max. A grande mudança em relação ao GPT-6 Sol é que none e minimal deixaram de existir, então low agora é o piso.

Essa única configuração define tanto a latência quanto o custo. Você nunca vê os tokens de raciocínio, mas paga por eles na taxa de saída ($10 por milhão para o 6.1 Sol na AIHubMix), e eles ocupam espaço na janela de contexto. Escolher o nível errado pode fazer você pagar várias vezes mais do que precisa.


Para que serve cada nível

Esta tabela combina as descrições da OpenAI do guia de raciocínio com nossas próprias recomendações:

NívelDescrição da OpenAIBom usoUso inadequado
lowRaciocínio eficiente com um aumento modesto de latênciaEtapas intermediárias em loops de ferramentas, busca, planejamento leve, classificação, extração, respostas de suporteDepuração difícil, refatorações em vários arquivos
medium (padrão)O equilíbrio padrão para a maioria das cargas de trabalhoProgramação do dia a dia, revisão de código, escrita, tarefas típicas de agentesUso interativo sensível à latência
highRaciocínio difícil, depuração complexa, planejamento profundoBugs complicados, trabalho de arquitetura, tarefas no estilo SWETráfego online de alto QPS
xhighPesquisa aprofundada, trabalho assíncrono, execuções longas de agentesTarefas em segundo plano, relatórios de pesquisaQualquer coisa que seus evals não tenham justificado
maxRaciocínio máximo para as tarefas mais difíceisUso de computador, problemas de nível de pesquisa, trabalho pesado offlineQuase todas as solicitações do dia a dia

A OpenAI chama o esforço de "um botão de ajuste, não a principal forma de recuperar qualidade". Quando os resultados são ruins, analise primeiro o prompt, as definições das ferramentas e o contexto. Só aumente o esforço depois disso.


O que os benchmarks dizem sobre cada nível

Estes são os números próprios da OpenAI, compilados pela Vellum e pela DataCamp. Trate-os como um guia, não como verdade absoluta.

Para programação, high geralmente basta. No DeepSWE v1.1, o 6.1 Sol em high marca 75,2, igualando o Astra em high (74,8), por cerca de $1,50 por tarefa. Sua curva de custo chega a 72% a 75% por entre $0,50 e $1,50 por tarefa. O GPT-6 Sol atingiu no máximo 68,8 por cerca de $2,60.

Ir acima de medium nem sempre ajuda. No AutomationBench, o 6.1 Sol marca 35,4% em medium e apenas cerca de 36,0% com esforço maior. Para automação de negócios, os tokens extras de raciocínio quase não trouxeram ganho.

Reserve max para uso de computador e pesquisa. No OSWorld 2.0, max obtém 71,4 por cerca de $1,30 por tarefa. O Terminal-Bench Science em max custa $5,47 por tarefa: bem mais barato que os $23,80 do Astra, mas uma ordem de grandeza acima da maioria das outras cargas de trabalho.

O low também melhorou. A taxa de erros factuais em low caiu de 11,4% no 6 Sol para 7,7%. Se você subiu tarefas para medium no 6 Sol porque low não era preciso o bastante, teste o low novamente.


Pontos de partida por caso de uso

Caso de usoComeçar emObservações
Chamadas que usavam none no 6 SollowMapeamento oficial da OpenAI. Se a latência for crítica, considere o GPT-6 Luna, que ainda aceita none
Chamadas que usavam minimallowComece em low e compare os resultados
Chatbots, suporte ao clientelowPeça ao modelo uma introdução de uma linha para que o primeiro token saia mais cedo
Perguntas e respostas com RAGlow → mediumA qualidade da recuperação importa mais que o esforço
Assistente de programação em IDEmediumO padrão funciona
Correção automatizada de bugs, agentes SWEhighO DeepSWE mostra que high já iguala o Astra
Uso de computador, agentes de navegadorhigh → maxO OSWorld atinge o pico em max
Pesquisa em segundo plano, execuções longasxhighSomente quando os evals mostrarem ganho. O Batch reduz o custo pela metade se você não precisar dos resultados imediatamente
Os problemas de pesquisa mais difíceismax, ou simplesmente use o AstraA OpenAI também recomenda o Astra aqui

Os mapeamentos de none e minimal vêm do guia de migração para o GPT-6 da OpenAI.


Alterando o esforço no meio da conversa

Um padrão comum é planejar em high, executar em low e voltar para high quando algo der errado.

O porém: editar reasoning.effort na requisição quebra o seu cache de prompt. O esforço faz parte do prefixo em cache (veja o guia de cache de prompts). No 6.1 Sol, uma leitura do cache custa $0,10 por milhão de tokens, enquanto reescrever o cache custa $2,50. É uma diferença de 25×.

A família GPT-6 resolve isso com um item de entrada configuration_update. Deixe o reasoning.effort no nível da requisição como está e insira uma atualização antes da próxima mensagem do usuário. Veja como fica pela API de Respostas da AIHubMix:

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

# Turn 1: plan at high effort
r1 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},
    input="Figure out why this repo's tests are failing and propose a fix plan.",
)

# Turn 2: drop to low for execution, without touching request-level effort
r2 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},           # unchanged, so the cache survives
    previous_response_id=r1.id,
    input=[
        {"type": "configuration_update", "reasoning": {"effort": "low"}},
        {"role": "user", "content": "Carry out step 1 of the plan."},
    ],
)
O formato de configuration_update acima é ilustrativo. Consulte o guia de raciocínio da OpenAI para o esquema exato. A documentação de Respostas da AIHubMix atualmente lista quatro níveis (de minimal até high), então envie uma pequena requisição de teste para confirmar que xhigh, max e configuration_update passam normalmente.

Alguns limites que você deve conhecer:

  • Funciona apenas no modo padrão de agente único, e altera apenas o esforço.
  • Duas atualizações não podem ficar uma ao lado da outra.
  • Não é compatível com compactação ou truncamento automáticos. A compactação explícita é aceita, mas adicione uma nova atualização depois dela.
  • O campo reasoning.effort da resposta ainda mostra o valor do nível da requisição, então não interprete isso demais.

Configurações que acompanham o esforço

Deixe espaço em max_output_tokens. O limite inclui os tokens de raciocínio. Se for baixo demais, o modelo pode parar antes de produzir qualquer texto visível. Você recebe status: incomplete e ainda paga pela entrada e pelo raciocínio. A OpenAI sugere reservar pelo menos 25.000 tokens para começar, e mais para xhigh ou max.

Acompanhe os tokens de raciocínio. Eles estão em usage.output_tokens_details.reasoning_tokens. Observar a distribuição por nível de esforço é melhor do que ajustar no feeling.

Ative os resumos se precisar de visibilidade. reasoning.summary: "auto" retorna um resumo do raciocínio do modelo (talvez seja necessário verificar sua organização antes). O raciocínio bruto nunca é exposto.

O modo Pro é um interruptor separado. Ele faz o modelo realizar mais trabalho, cobrado nas taxas padrão, mas com mais tokens no total. Use-o para problemas difíceis em que uma latência extra seja aceitável.


Um processo de ajuste que você realmente pode executar

  1. Reúna de 20 a 50 tarefas reais em um conjunto de avaliação.
  2. Execute uma linha de base em medium. Registre a taxa de sucesso, a média de tokens de raciocínio e a latência P95.
  3. Teste low. Se o sucesso quase não cair, troque.
  4. Teste high. Se o sucesso melhorar claramente, use high apenas para aquele tipo de tarefa.
  5. Recorra a xhigh ou max somente quando high não for suficiente, e compare com o GPT-6 Astra em high enquanto estiver nisso. Às vezes, um modelo maior supera mais esforço. Na AIHubMix, isso é apenas uma mudança no parâmetro model, e a lista de modelos mostra o que está disponível.
  6. Direcione por tipo de tarefa em vez de usar uma única configuração global.

Resumindo: comece em medium, economize com low, use high para programação e faça xhigh e max provarem seu valor nos seus evals.

Em seguida: o que o preço de $2 / $10 realmente significa quando entram em jogo o cache, o contexto longo e os multiplicadores de cobrança.


FAQ

Qual é o esforço de raciocínio padrão do GPT-6.1 Sol? medium. Se você não definir nada, é isso que você recebe.

Por que none retorna um erro? O 6.1 Sol não aceita none nem minimal. A OpenAI recomenda mudar para low. Se você realmente precisar de none, continue no GPT-6 Sol ou no GPT-6 Luna.

Como os tokens de raciocínio são cobrados? À taxa de saída ($10 por milhão para o 6.1 Sol), e eles contam para a janela de contexto. Verifique usage.output_tokens_details.reasoning_tokens para ver os números reais.

O nome do parâmetro é o mesmo em Chat Completions e Responses? Não. O Chat Completions usa um reasoning_effort no nível superior. O Responses usa um reasoning: {"effort": ...} aninhado. Misturar os dois retorna Unsupported parameter.

Um esforço maior sempre gera resultados melhores? Não. No AutomationBench, ir acima de medium só levou a pontuação de 35,4% para cerca de 36,0%, custando bem mais. Teste com as suas próprias tarefas.

Posso mudar o esforço no meio de uma conversa? Sim. Use um item configuration_update e deixe o reasoning.effort no nível da requisição sem alteração, para que o cache de prompt continue válido. Ele não funciona com compactação ou truncamento automáticos.

Por que recebi status: incomplete sem nenhuma saída? Provavelmente o max_output_tokens estava baixo demais e o raciocínio consumiu tudo. A OpenAI recomenda reservar pelo menos 25.000 tokens.


Continue lendo: a série GPT-6.1 Sol


Fontes

Um só gateway para vários provedores de IA. Feito para produção.

Acessar AIHubMix