Gemini 4 Argon: Livelli di Pensiero e Long Decode: Impostazioni Predefinite, Costi e Quando Utilizzare Ognuna

AIHubMix8 min di lettura
Gemini 4 Argon: Livelli di Pensiero e Long Decode: Impostazioni Predefinite, Costi e Quando Utilizzare Ognuna

Gemini 4 Argon è diventato generalmente disponibile il 13 ottobre 2026, e con esso Google ha documentato le due impostazioni che decidono quanto costa una richiesta Argon e quanto tempo ci vuole: il livello di pensiero e il limite di output. Argon offre tre livelli di pensiero, basso, medio e alto, e per impostazione predefinita è medio. Le risposte si fermano a 64K token a meno che non si attivi il long decode, che consente a una singola risposta di arrivare fino a 1M token.

C'è un problema con le impostazioni predefinite. Ogni benchmark Argon pubblicato è stato eseguito ad alto: Google lo ha valutato "con le impostazioni di pensiero più elevate", Artificial Analysis lo ha testato ad alto, e Vals AI lo ha eseguito ad alto. Una richiesta che non imposta un livello viene eseguita a medio, quindi non è la configurazione che quei punteggi descrivono.

Questo post copre i tre livelli e i consigli di Google su ciascuno, quanto costa alto in token e tempo, come impostare il limite di output affinché le risposte non tornino vuote, e come funziona e viene fatturato il long decode. Si conclude con codice per AIHubMix.

La versione breve

  • Argon ha tre livelli di pensiero: basso, medio (il predefinito) e alto. Il pensiero non può essere disattivato.
  • Ogni benchmark pubblicato ha utilizzato alto. Nessuno ha pubblicato risultati a medio o basso.
  • max_output_tokens limita insieme il pensiero e la risposta. Impostalo ad almeno 32.768, o un prompt difficile può spendere tutto il budget pensando e non restituire nulla.
  • Senze long decode, una risposta si ferma a 65.536 token. Con esso, una risposta può arrivare fino a 1.048.576 token meno il tuo input.
  • Il long decode fattura ogni token di ogni "salto" di 64K, e ogni salto rileggere tutto ciò che è stato scritto finora come input, scontato del 95% grazie alla cache implicita.

I tre livelli

La guida di Google Cosa c'è di nuovo in Gemini 4 Argon descrive i livelli in questo modo:

Livello Utilizzo dei token Google lo raccomanda per
basso Meno token, latenza più bassa Lavori più semplici e sensibili ai costi
medio (predefinito) Bilanciato La maggior parte dei compiti, inclusi codice complesso e agenti
alto Più token, primo token più lento Il ragionamento, la matematica e il codice più difficili

Google avverte che a basso, "la qualità può diminuire su compiti difficili", e il suo consiglio per la scelta è diretto: "Esegui le tue valutazioni a tutti e tre i livelli, poi scegli il livello più basso che soddisfa il tuo standard di qualità."

Nell'API nativa l'impostazione è thinking_level, documentata nella guida al pensiero di Gemini. Tramite un endpoint compatibile con OpenAI è reasoning_effort. La guida alla compatibilità OpenAI di Google mappa i valori per Argon: minimal e low diventano entrambi low, medium rimane medium, high rimane high, e lasciarlo fuori dà il predefinito, medium. Non esiste un livello che disattiva il pensiero.

Il predefinito è medio. I benchmark sono alti.

Google, Artificial Analysis e Vals riportano tutti Argon ad alto. Vals ha anche impostato un limite di output di 262.144 token. Quindi i punteggi che hai visto descrivono Argon al suo livello massimo, e una richiesta senza livello impostato viene eseguita un passo più in basso.

Questo non è necessariamente un problema. Medio è il livello che Google raccomanda per la maggior parte del lavoro, inclusi codice complesso e agenti, e utilizza meno token rispetto ad alto. Ma nessuno ha pubblicato quanto accuratezza perda medium o low, o quanti token risparmino. [TBD: accuratezza e token per livello di pensiero]

Un altro dettaglio è importante per i confronti. GPT-6 Astra e GPT-6.1 Sol sono stati testati a "max", un livello superiore ad alto. Un pareggio tra "Argon (alto)" e "Astra (max)" è ciascun modello al suo limite, non a impostazioni corrispondenti.

Cosa costa alto

I dati qui provengono da Artificial Analysis, inclusi i suoi test di velocità dei fornitori, e da Vals AI. Tutti loro hanno eseguito Argon ad alto.

Misura Gemini 4 Argon (alto) Per confronto
Token di output per compito AA ~62k GPT-6 Astra (max): ~27k
Token di output per l'indice AA 110M Modello mediano: 85M
Velocità di output 99.5–116.5 token/s AI Studio / Vertex AI
Tempo per il primo token di risposta ~45 s Include il tempo di pensiero
Tempo per test dell'indice Vals 46 min 33 s —

I token di pensiero vengono fatturati come output: Google elenca il prezzo di output di Argon "inclusi i token di pensiero", e i dati di utilizzo li riportano come total_thought_tokens. A ~62k token di output per compito, un compito costa circa $0.62 solo in output al prezzo introduttivo di $10 per milione, e circa $1.24 a $20 per milione, il prezzo dal 1 dicembre.

Il tempo segue i token. A 99.5 a 116.5 token al secondo, 62k token richiedono circa 9-10 minuti per essere generati, dopo un'attesa di circa 45 secondi per il primo token di risposta. I prodotti interattivi necessitano di streaming e di un indicatore di progresso ad alto livello, o di un livello inferiore.

Impostazione del limite di output

max_output_tokens è un limite rigido su pensiero e risposta insieme. Quando una risposta raggiunge questo limite, lo stato è "incompleto" e il testo torna tagliato o vuoto, e i token di pensiero vengono comunque fatturati. Le indicazioni di Google:

  • Se la tua app imposta un limite inferiore a 32K, aumentalo ad almeno 32.768. Argon può spendere più del limite per il pensiero rispetto ai modelli precedenti.
  • Per spendere meno, abbassa il livello di pensiero invece di impostare un piccolo limite.
  • Senze long decode, il predefinito e il massimo è 65.536 token. Richiedere di più senza long decode restituisce un errore 400.
  • Input, pensiero e output condividono una finestra di 1.048.576 token. Se il tuo input più max_output_tokens supera questo limite, il limite di output si riduce per adattarsi.

Due ulteriori modifiche rispetto a Gemini 3. La temperatura, top_p e top_k vengono ignorati su Argon, quindi regolarli non ha effetto. E i prompt rigidi possono richiedere diversi minuti, quindi Google raccomanda timeout del client HTTP di almeno 15 minuti.

Long decode: risposte oltre 64K token

Il long decode è ciò che Google ha annunciato al lancio come Long Decode Continuation. La guida al long decode descrive due modi per eseguirlo.

Esecuzione in background (API Interactions). Crea l'interazione con background=True e max_output_tokens superiore a 65.536. L'esecuzione in background richiede store=true. Il server scrive la risposta in salti di fino a 64K token, ciascuno continuando dove l'ultimo si è fermato, per un massimo di 24 ore. Ogni salto aggiunge un passo model_output, quindi uniscili quando l'interazione è completata. Imposta background=True senza aumentare max_output_tokens e si ferma a 64K.

Continuazione lato client (API generateContent). Ogni salto restituisce fino a 64K token quando si fa streaming o tramite l'SDK, 32K per una chiamata REST non in streaming. Un salto che raggiunge il suo limite termina con finish_reason: CONTINUATION e un continuation_token, e la richiesta successiva invia lo stesso input più il token. Gli SDK recenti fanno questo per te: Python google-genai 2.30.1 e JavaScript @google/genai 2.29.1 o versioni successive. Ogni richiesta ha un limite di 20 minuti.

Quando si fa streaming di un long decode, salva l'ID dell'interazione e l'ultimo event_id, riconnettiti con last_event_id quando lo stream si interrompe, e imposta timeout di lettura di 15-20 minuti. Dopo i primi 64K token, lo stream arriva in blocchi di circa 5.000 token con pause tra di essi.

Google è chiaro su quando ne vale la pena:

Carico di lavoro Long decode?
Matematica difficile, scienza e prove Sì
I compiti di codifica e agenti più difficili Sì
Valutazioni che si fermano al limite Sì
Chat, Q&A, riassunti, estrazione No, finiscono sotto 32K
Richieste per una lunghezza fissa No, gli obiettivi di lunghezza vengono ignorati
Agenti con molti brevi turni di strumenti No
Prompt vicini al limite di input di 1M No
Chiamate sensibili alla latenza No

Un limite più alto dà al modello spazio per pensare; non rende le risposte normali più lunghe. È il modello a decidere quanto scrivere, e non segue obiettivi di parole o token.

Come viene fatturato il long decode

Paghi per ogni token in ogni salto, inclusi i salti che contengono solo pensiero. Ogni salto invia anche il tuo prompt più tutto ciò che è stato generato finora di nuovo al modello come input, quindi quei token contano di nuovo. Esempio di Google: un prompt di 1.000 token che produce 200.000 token di pensiero e output richiede quattro salti.

Salto Input inviato al modello Token di input
1 Prompt 1.000
2 Prompt + salto 1 66.536
3 Prompt + salti 1-2 132.072
4 Prompt + salti 1-3 197.608
Totale 397.216

I dati di utilizzo riportano circa 397.000 token di input, anche se il contesto contiene solo circa 201.000. La cache implicita sconta l'input ripetuto del 95%, quindi è economico: ai prezzi introduttivi, i 200.000 token di output costano $2.00, e circa 396.000 token di input ripetuti a $0.10 per milione aggiungono circa $0.04. L'output domina ancora la fattura.

Due effetti collaterali. Non utilizzare total_input_tokens per decidere quando ridurre o riassumere una conversazione, poiché sovrastima il contesto; aggiungi invece la dimensione del tuo prompt ai totali di output e pensiero. E le interazioni annullate o fallite fatturano tutto il lavoro svolto prima che si fermassero.

Dove iniziare, per carico di lavoro

Questi seguono le indicazioni sui livelli di Google; non esistono dati pubblicati di accuratezza per livello per affinarli.

Carico di lavoro Inizia a Perché
Matematica, scienza e codice più difficili Alto Corrisponde ai benchmark pubblicati
Codice complesso e agenti Medio Predefinito raccomandato da Google
Analisi legale e finanziaria Alto I risultati pubblicati sono ad alto
Estrazione e classificazione Basso Lavoro più semplice e sensibile ai costi
Chat e supporto Basso La latenza più bassa

Quindi testa un livello più basso. Se il livello più economico soddisfa il tuo standard nel tuo stesso set di valutazione, mantienilo.

Mantieni il livello fisso all'interno di una sessione. Argon memorizza implicitamente nella cache, scontando l'input ripetuto del 95% per prompt di almeno 4.096 token, e la guida AIHubMix Gemini nota che un colpo di cache ha bisogno dello stesso contenuto, modello e parametri. Cambiare i livelli tra i turni potrebbe riportare l'input memorizzato nella cache al prezzo pieno.

Impostazione del livello e del limite su AIHubMix

Argon è su AIHubMix come gemini-4-argon, sull'endpoint compatibile con OpenAI e tramite il SDK nativo di Google GenAI. Per la maggior parte delle richieste, imposta esplicitamente il livello e il limite:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
    timeout=900,  # i prompt rigidi possono richiedere diversi minuti
)

resp = client.chat.completions.create(
    model="gemini-4-argon",
    reasoning_effort="medium",  # predefinito di Argon; i benchmark utilizzavano "alto"
    max_tokens=32768,           # limita pensiero e risposta insieme
    messages=[
        {"role": "user", "content": "Esamina questo servizio di pagamento per condizioni di gara nella sua logica di ripetizione.\n\n<source code>"},
    ],
)
print(resp.choices[0].message.content)
print(resp.usage)

Per il long decode, utilizza il SDK nativo puntato all'endpoint Gemini di AIHubMix. La guida di AIHubMix documenta l'API Interactions lì, inclusa la modalità in background, con google-genai 2.0.0 o versioni successive. Il modello qui sotto è quello documentato da Google; non è stato ancora testato tramite AIHubMix. [TBD: long decode tramite AIHubMix]

import os
import time
from google import genai

client = genai.Client(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    http_options={"base_url": "https://aihubmix.com/gemini"},
)

interaction = client.interactions.create(
    model="gemini-4-argon",
    input="Scrivi l'intera suite di test per questo modulo di pagamento, con un test per ogni caso limite.\n\n<source code>",
    background=True,
    generation_config={"max_output_tokens": 262144, "thinking_level": "high"},
)
while interaction.status in ("in_progress", "queued"):
    time.sleep(5)
    interaction = client.interactions.get(id=interaction.id)

# Ogni salto aggiunge un passo model_output; uniscili tutti.
text = "".join(
    part.text
    for step in interaction.steps
    if step.type == "model_output"
    for part in step.content
    if part.type == "text"
)
print(interaction.status, interaction.usage)

La pagina del modello AIHubMix di Argon elenca i suoi input supportati, capacità e prezzo attuale.

FAQ

Quali livelli di pensiero supporta Gemini 4 Argon?
Basso, medio e alto. Il predefinito è medio, e il pensiero non può essere disattivato.

Quale livello sono stati eseguiti i benchmark di Argon?
Alto. Google, Artificial Analysis e Vals AI riportano tutti Argon ad alto, e nessuno ha pubblicato risultati a medio o basso.

Come imposto il livello tramite l'SDK OpenAI?
Usa reasoning_effort. Per Argon, minimal e low mappano a low, medium a medium e high a high. Lascialo fuori per ottenere medium.

Perché Argon ha restituito una risposta vuota?
Probabilmente ha speso tutto il budget di max_output_tokens per il pensiero. La risposta torna incompleta e i token di pensiero vengono comunque fatturati. Aumenta il limite ad almeno 32.768 o abbassa il livello di pensiero.

Come ottengo più di 64K token di output?
Usa il long decode. Sull'API Interactions, imposta background su true e max_output_tokens sopra 65.536. Su generateContent, utilizza un SDK recente, che continua automaticamente attraverso i salti.

Come viene fatturato il long decode?
Paghi per ogni token in ogni salto. Ogni salto reinvia il prompt e tutto ciò che è stato generato finora come input, e la cache implicita sconta quell'input ripetuto del 95%. Le esecuzioni annullate o fallite fatturano il lavoro già svolto.

La temperatura funziona ancora su Gemini 4 Argon?
No. La temperatura, top_p e top_k vengono ignorati, quindi rimuovili e utilizza il livello di pensiero per controllare il comportamento.

Continua a leggere: la serie Gemini 4 Argon

Fonti