Gemini 4 Argon 思考層級與長解碼:預設、成本及何時使用每一種

推理時代閱讀約 8 分鐘
Gemini 4 Argon 思考層級與長解碼:預設、成本及何時使用每一種

Gemini 4 Argon 於 2026 年 10 月 13 日正式推出,隨之而來的是 Google 文件化了兩個設定,這些設定決定了 Argon 請求的成本和所需時間:思考層級和輸出限制。Argon 提供三個思考層級,分別為低、中和高,預設為中。除非啟用長解碼,否則回應在 64K 令牌時停止,長解碼允許單一回應運行至 1M 令牌。

預設中有一個陷阱。每個已發佈的 Argon 基準測試都是在高層級下進行的:Google 評估了它「在最高思考設定下」,人工分析在高層級下進行了測試,而 Vals AI 也在高層級下運行了它。未設定層級的請求將在中層級運行,因此這並不是那些分數所描述的配置。

這篇文章涵蓋了三個層級以及 Google 對每個層級的建議,高層級的令牌和時間成本,如何設定輸出限制以避免回應為空,以及長解碼的運作方式和計費方式。最後附上 AIHubMix 的代碼。

簡短版本

  • Argon 有三個思考層級:低、中(預設)和高。思考無法關閉。
  • 每個已發佈的基準測試都使用高層級。沒有人發佈中或低層級的結果。
  • max_output_tokens 將思考和回答一起限制。將其設置為至少 32,768,否則硬提示可能會花費整個預算進行思考而不返回任何內容。
  • 在未啟用長解碼的情況下,回應在 65,536 令牌時停止。啟用後,回應可以運行至 1,048,576 令牌減去您的輸入。
  • 長解碼對每個 64K「跳躍」的每個令牌進行計費,每次跳躍都會將迄今為止寫入的所有內容重新讀取作為輸入,隱式快取可折扣 95%。

三個層級

Google 的 Gemini 4 Argon 新聞 指南這樣描述這些層級:

層級 令牌使用 Google 建議用於
低 最少的令牌,最低的延遲 較簡單且對成本敏感的工作
中(預設) 平衡 大多數任務,包括複雜的代碼和代理
高 最多的令牌,第一個令牌最慢 最困難的推理、數學和代碼

Google 警告說,在低層級下,「在困難任務上質量可能下降」,而其選擇建議很直接:「在所有三個層級上運行評估,然後選擇滿足您質量標準的最低層級。」

在原生 API 中,該設定為 thinking_level,在 Gemini 思考指南 中有文件記載。通過 OpenAI 兼容的端點,則為 reasoning_effort。Google 的 OpenAI 兼容性指南 將 Argon 的值對應:minimal 和 low 都變為 low,medium 保持 medium,high 保持 high,省略則為預設的 medium。沒有層級可以關閉思考。

預設為中。基準測試為高。

Google、人工分析和 Vals 都報告 Argon 在高層級下。Vals 還設置了 262,144 令牌的輸出上限。因此,您所看到的分數描述的是 Argon 在其最高層級的情況,而未設定層級的請求則運行在一個較低的層級。

這不一定是個問題。中層級是 Google 建議用於大多數工作的層級,包括複雜的代碼和代理,並且它使用的令牌比高層級少。但沒有人發佈中或低層級的準確性損失或節省的令牌數量。[待定:按思考層級的準確性和令牌]

還有一個細節對比較很重要。GPT-6 Astra 和 GPT-6.1 Sol 在「max」層級下進行了測試,這是一個高於高層級的層級。「Argon(高)」和「Astra(max)」之間的平局是每個模型在其上限,而不是在匹配的設定下。

高層級的成本

這裡的數據來自 人工分析,包括其 提供者速度測試,以及來自 Vals AI 的數據。所有這些都在高層級下運行 Argon。

測量 Gemini 4 Argon(高) 作為比較
每個 AA 任務的輸出令牌 約 62k GPT-6 Astra(max):約 27k
AA 指數的輸出令牌 110M 中位數模型:85M
輸出速度 99.5–116.5 令牌/秒 AI Studio / Vertex AI
首次回答令牌的時間 約 45 秒 包括思考時間
Vals 指數每次測試的時間 46 分 33 秒 —

思考令牌按輸出計費:Google 列出了 Argon 的輸出價格「包括思考令牌」,使用數據報告它們為 total_thought_tokens。每個任務約 62k 的輸出令牌,在 Google 的入門價格每百萬 $10 下,任務成本約為 $0.62,並在每百萬 $20 的價格下約為 $1.24,這是從 12 月 1 日開始的價格。

時間跟隨令牌。在每秒 99.5 到 116.5 令牌的速度下,62k 令牌大約需要 9 到 10 分鐘生成,首次回答令牌的等待時間約為 45 秒。互動產品需要在高層級下進行串流和進度指示,或者使用較低的層級。

設定輸出限制

max_output_tokens 是對思考和回答的硬限制。當回應達到此限制時,狀態為「不完整」,文本會被截斷或為空,思考令牌仍然會被計費。Google 的指導:

  • 如果您的應用設置的限制低於 32K,請將其提高到至少 32,768。Argon 可能會在思考上花費比早期模型更多的限制。
  • 要花費更少,請降低思考層級,而不是設置小限制。
  • 在未啟用長解碼的情況下,預設和最大值為 65,536 令牌。要求更多而未啟用長解碼會返回 400 錯誤。
  • 輸入、思考和輸出共享一個 1,048,576 令牌的窗口。如果您的輸入加上 max_output_tokens 超過此限制,則輸出限制將縮小以適應。

來自 Gemini 3 的兩個變更。溫度、top_p 和 top_k 在 Argon 中被忽略,因此調整它們沒有任何作用。硬提示可能需要幾分鐘,因此 Google 建議 HTTP 客戶端超時至少為 15 分鐘。

長解碼:超過 64K 令牌的回應

長解碼是 Google 在推出時宣布的長解碼延續。長解碼指南 描述了運行它的兩種方式。

背景執行(互動 API)。 使用 background=True 和 max_output_tokens 設置為超過 65,536 來創建互動。背景執行需要 store=true。伺服器以每次最多 64K 令牌的跳躍寫入回應,每次跳躍都從上次停止的地方繼續,最多可持續 24 小時。每次跳躍會增加一個 model_output 步驟,因此當互動完成時將它們連接起來。如果不提高 max_output_tokens 而設置 background=True,則會在 64K 停止。

客戶端延續(generateContent API)。 每次跳躍在串流或通過 SDK 時返回最多 64K 令牌,對於非串流的 REST 調用則為 32K。達到上限的跳躍以 finish_reason: CONTINUATION 和 continuation_token 結束,下一個請求發送相同的輸入加上該令牌。最近的 SDK 會為您自動執行此操作:Python google-genai 2.30.1 和 JavaScript @google/genai 2.29.1 或更高版本。每個請求有 20 分鐘的限制。

在串流長解碼時,保存互動 ID 和最新的 event_id,當串流中斷時使用 last_event_id 重新連接,並設置 15 到 20 分鐘的讀取超時。在前 64K 令牌之後,串流以約 5,000 令牌的塊到達,並在它們之間有暫停。

Google 清楚地指出何時值得這樣做:

工作負載 長解碼?
困難的數學、科學和證明 是
最困難的編碼和代理任務 是
在限制下停止的評估工具 是
聊天、問答、摘要、提取 否,它們在 32K 以下完成
固定長度的請求 否,長度目標被忽略
有許多短工具回合的代理 否
接近 1M 輸入限制的提示 否
對延遲敏感的調用 否

更高的限制給模型提供了思考的空間;它不會使正常的回答變得更長。模型決定寫多少,並且不遵循單詞或令牌目標。

長解碼的計費方式

您為每個跳躍中的每個令牌付費,包括僅包含思考的跳躍。每次跳躍還會將您的提示和迄今為止生成的所有內容作為輸入重新發送回模型,因此這些令牌再次計入。Google 的示例:一個 1,000 令牌的提示產生 200,000 令牌的思考和輸出,需四次跳躍。

跳躍 發送到模型的輸入 輸入令牌
1 提示 1,000
2 提示 + 跳躍 1 66,536
3 提示 + 跳躍 1–2 132,072
4 提示 + 跳躍 1–3 197,608
總計 397,216

使用數據報告約 397,000 個輸入令牌,即使上下文僅容納約 201,000。隱式快取將重複輸入折扣 95%,因此成本低廉:在入門價格下,200,000 個輸出令牌的成本為 $2.00,而約 396,000 個重複輸入令牌的成本為每百萬 $0.10,約 $0.04。輸出仍然主導帳單。

兩個副作用。不要使用 total_input_tokens 來決定何時修剪或總結對話,因為它會高估上下文;而是將您的提示大小添加到輸出和思考總數中。此外,取消或失敗的互動會計費在停止之前所做的所有工作。

根據工作負載開始的地方

這些遵循 Google 的層級指導;沒有發佈的每層準確性來進行細化。

工作負載 從哪裡開始 為什麼
最困難的數學、科學和代碼 高 符合已發佈的基準
複雜的代碼和代理 中 Google 建議的預設值
法律和財務分析 高 已發佈的結果為高
提取和分類 低 較簡單、對成本敏感的工作
聊天和支持 低 最低延遲

然後測試一個層級的下方。如果較便宜的層級在您自己的評估集上滿足您的標準,則保留它。

在會話中保持層級固定。Argon 會隱式快取,對於至少 4,096 令牌的提示,重複輸入的折扣為 95%,而 AIHubMix Gemini 指南 指出,快取命中需要相同的內容、模型和參數。在回合之間切換層級可能會將快取的輸入轉回全價輸入。

在 AIHubMix 上設定層級和限制

Argon 在 AIHubMix 上作為 gemini-4-argon,在 OpenAI 兼容的端點和通過原生 Google GenAI SDK。對於大多數請求,明確設置層級和限制:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
    timeout=900,  # 硬提示可能需要幾分鐘
)

resp = client.chat.completions.create(
    model="gemini-4-argon",
    reasoning_effort="medium",  # Argon 的預設;基準測試使用了「高」
    max_tokens=32768,           # 將思考和回答一起限制
    messages=[
        {"role": "user", "content": "檢查此支付服務的重試邏輯中的競爭條件。\n\n<源代碼>"},
    ],
)
print(resp.choices[0].message.content)
print(resp.usage)

對於長解碼,使用指向 AIHubMix 的 Gemini 端點的原生 SDK。AIHubMix 的指南記錄了那裡的互動 API,包括背景模式,使用 google-genai 2.0.0 或更高版本。以下模式是 Google 記錄的模式;尚未通過 AIHubMix 測試。[待定:通過 AIHubMix 的長解碼]

import os
import time
from google import genai

client = genai.Client(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    http_options={"base_url": "https://aihubmix.com/gemini"},
)

interaction = client.interactions.create(
    model="gemini-4-argon",
    input="為此支付模塊編寫完整的測試套件,針對每個邊界情況進行測試。\n\n<源代碼>",
    background=True,
    generation_config={"max_output_tokens": 262144, "thinking_level": "high"},
)
while interaction.status in ("in_progress", "queued"):
    time.sleep(5)
    interaction = client.interactions.get(id=interaction.id)

# 每次跳躍增加一個 model_output 步驟;將它們全部連接起來。
text = "".join(
    part.text
    for step in interaction.steps
    if step.type == "model_output"
    for part in step.content
    if part.type == "text"
)
print(interaction.status, interaction.usage)

Argon 的 AIHubMix 模型頁面 列出了其支持的輸入、功能和當前價格。

常見問題

Gemini 4 Argon 支持哪些思考層級?
低、中和高。預設為中,思考無法關閉。

Argon 的基準測試是在什麼層級下進行的?
高。Google、人工分析和 Vals AI 都報告 Argon 在高層級下,沒有人發佈中或低層級的結果。

如何通過 OpenAI SDK 設置層級?
使用 reasoning_effort。對於 Argon,minimal 和 low 對應 low,medium 對應 medium,high 對應 high。省略則獲得 medium。

為什麼 Argon 返回了空的答案?
它可能將整個 max_output_tokens 預算花在思考上。回應會不完整,思考令牌仍然會被計費。將限制提高到至少 32,768 或降低思考層級。

如何獲得超過 64K 的輸出令牌?
使用長解碼。在互動 API 中,將背景設置為 true,並將 max_output_tokens 設置為超過 65,536。在 generateContent 中,使用最近的 SDK,自動跨跳躍繼續。

長解碼如何計費?
您為每個跳躍中的每個令牌付費。每次跳躍會重新發送提示和迄今為止生成的所有內容作為輸入,隱式快取將重複輸入折扣 95%。取消或失敗的運行會計費已完成的工作。

溫度在 Gemini 4 Argon 上仍然有效嗎?
不。溫度、top_p 和 top_k 被忽略,因此請刪除它們並使用思考層級來控制行為。

繼續閱讀:Gemini 4 Argon 系列

來源