Qwen4-Max 遷移:輸出限制、思考模式與 Agent 設定

推理時代閱讀約 4 分鐘
Qwen4-Max 遷移:輸出限制、思考模式與 Agent 設定

從 Qwen3.8-Max 遷移至 Qwen4-Max,改變的不只是模型 ID。兩者都支援百萬 token 的上下文,但過去只需為答案預留的輸出上限,如今也必須涵蓋思考內容。預設推理強度也有所變動,且 Agent 必須在工具呼叫之間正確保留推理歷史。

先送出一個 Chat Completions 請求,再執行一項小型儲存庫任務。確認答案、停止原因、歷史紀錄及產生的差異內容後,再遷移現有工作流程。

重新計算輸出上限

Chat Completions 參考文件將 Qwen4-Max 的 max_tokens 定義為等同於 max_completion_tokens:兩者都會限制思考內容與最終答案的總和。Qwen3.8-Max 的 max_tokens 則只限制答案。

因此,上限設為 300 並不代表可為可見答案保留 300 個 token。推理可能會先耗盡預算,導致答案為空或不完整。即使 HTTP 請求成功,若回應以 finish_reason: "length" 結束,也需要留意。只改參數名稱、不提高數值,並不會帶來任何改變。

新整合請使用 max_completion_tokens,並為這兩部分預留足夠空間。Qwen4-Max 在思考模式下最多支援 262,144 個合併輸出 token;非思考模式下則最多支援 131,072 個。其 1,000,000-token 上下文並不代表輸入額度之外,還能再加上最大輸出量;輸入與輸出必須合計落在上下文範圍內。

選擇推理強度或思考預算

Qwen4-Max 支援 low、high 和 xhigh,預設為 high。若省略這兩項控制設定,系統會選用 high,並設定 131,072-token 的思考預算。這是上限,而非對實際 token 用量的預測。

有兩項沿用的設定,其意義已改變:high 現在代表 high,不像在 Qwen3.8-Max 上會對應至 xhigh;medium 則對應至 high。其他對應關係為 minimal 對應 low、max 對應 xhigh,以及 none 代表停用思考模式。

請傳送其中一項:reasoning_effort 或 thinking_budget。官方參考文件禁止同時使用兩者,且預算必須是正整數:設為零並不會停用思考模式。若只設定預算,1–4,096 會選用 low,4,097–131,072 會選用 high,131,073–262,144 則會選用 xhigh,並保留指定的預算。

從列出的端點開始

AIHubMix 模型指南列出 qwen4-max 的端點為 POST /v1/chat/completions。以下是起始請求,並非實測結果:

curl -sS https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen4-max",
    "max_completion_tokens": 16384,
    "messages": [{"role": "user", "content": "Write a Python function that returns unique items in their original order, with two tests."}]
  }'

輸出上限遵循 Alibaba 公布的規格。你可以選擇在不設定思考預算的情況下加上 reasoning_effort: "low";此處尚未實測參數轉送情況。AIHubMix 的功能旗標仍未確認。請先檢查實際回應與用量,再依賴任何設定。

保留 Agent 所需的歷史紀錄

使用完整思考模式時,請將歷史助理訊息中的 reasoning_content 與 content 分開保留,包括呼叫工具的對話回合。Qwen4-Max 預設啟用 preserve_thinking;回傳的歷史紀錄會計入輸入並收費。若序列化工具只保留可見文字,就會遺失部分歷史紀錄。

Alibaba 也提供思考摘要與加密功能。若要啟用,必須在每次請求中設定 thinking_display: "summarized";此時 reasoning_content 會變成供顯示的摘要,而 encrypted_content 則承載推理歷史。重送時請原樣保留密文;摘要不能取代密文。即使加密資料框沒有可見文字,串流用戶端也必須保留。

Alibaba 的文件有說明此摘要模式,但尚未確認它能否透過 AIHubMix 傳送,因此請先確保一般對話的上下文延續正常。

確認快取狀況後再預估節省金額

Alibaba 的 Qwen4 明確快取支援手動與自動檢查點,TTL 可設為 5 分鐘或 1 小時。快取前綴至少需要 1,024 個 token。寫入快取的費用分別約為一般輸入費用的 125% 或 200%;重複寫入並不會免費帶來節省。

請將穩定的系統指示、工具定義和儲存庫資料放在前面,再接上會變動的問題。若未設定快取參數,一般的隱式快取不保證命中。請檢查快取讀取/寫入用量和帳單,再判斷 Agent 是否受益。這些供應商快取控制項尚未透過 AIHubMix 實測。

程式碼工具:驗證一項完整任務

依照 AIHubMix Qwen Code 指南完成安裝與驗證。設定 OPENAI_BASE_URL=https://aihubmix.com/v1、OPENAI_MODEL=qwen4-max,並透過 OPENAI_API_KEY 提供金鑰。使用 /status 確認選取的模型;也要檢查用戶端的上下文與輸出設定。

Claude Code 需要 Anthropic Messages,Codex 則需要 Responses。Alibaba 有提供這些協定的文件,但 AIHubMix 的 Qwen4-Max 指南只列出 Chat Completions。本文尚未確認這些協定能否透過此閘道使用。

請在暫存儲存庫中依照以下遷移檢查清單操作:

  1. 確認模型與端點;在基本請求中檢查答案文字、finish_reason 和用量。
  2. 移除沿用的僅限答案輸出上限,以及互相衝突的思考控制設定。若輸出遭截斷,請提高上限後重試,並確認答案完整。
  3. 修正跨兩個檔案的一項失敗測試。成功代表實際工具呼叫順利完成、測試通過,且差異內容只包含預期變更。
  4. 提出一個依賴第一回合內容的後續問題。檢查已儲存的助理/工具歷史紀錄與任何上下文壓縮;確認必要上下文仍然保留。
  5. 使用選定的推理強度重複操作。比較已接受的修補內容、token 總數和重試次數。估算經常性成本前,請另外確認快取用量。

常見問題

在 AIHubMix 上應使用哪個模型 ID?
使用 qwen4-max,並搭配列出的 Chat Completions 端點。

為什麼請求成功,答案卻可能不完整?
思考內容與答案共用輸出上限。請檢查 finish_reason 是否為 length,並在需要時提高合併輸出上限。

改用 max_completion_tokens 就能解決輸出截斷嗎?
光是更換參數並不能解決。在 Qwen4-Max 上,它與 max_tokens 的意義相同;數值必須足以預留所需空間。

可以同時設定推理強度和思考預算嗎?
不可以,請擇一使用。思考預算必須為正數;若要停用思考模式,請使用 reasoning_effort none。

應該將思考摘要當成推理歷史重送嗎?
不應該。在摘要模式下,請原樣保留並重送 encrypted_content。供顯示的摘要無法取代它。

可以假設 Claude Code 或 Codex 能透過 AIHubMix 使用嗎?
本文尚未確認此模型支援它們所需的協定。請先確認相關端點可用,並完成完整的工具工作流程。

繼續閱讀:Qwen4-Max 系列

資料來源

  1. Alibaba Cloud:Qwen4-Max 模型規格與 Qwen3.8-Max。
  2. Alibaba Cloud:Chat Completions 參數。
  3. Alibaba Cloud:思考摘要與加密。
  4. Alibaba Cloud:Qwen4 明確快取。
  5. AIHubMix:Qwen4-Max 模型指南與Qwen Code 設定。

資料來源查核日期:2026 年 11 月 17 日。本文未進行付費推理測試。

一個閘道接入多家 AI 服務商, 為正式環境而生。

前往推理時代官網