Gemini 4 Neon 迁移:默认高思考、400 错误与 65K 上限

推理时代阅读约 14 分钟

Google 将 Gemini 4 Neon 列为 Gemini 3.1 Pro 的升级目标,适用于在 Gemini 4 Argon 上进行的一般编码工作,以及在 Gemini 3.8 Flash 上进行的复杂编码或科学工作。将模型字符串改为 gemini-4-neon 很简单。其他变化分为四类。

  • 静默变化:默认思考级别现在是 high。Argon 和 3.8 Flash 的默认值是 medium。如果不设置级别,每个请求的思考量都会比设为 medium 时更多。对 3.8 Flash 用户来说,这意味着费用更高;对 Argon 用户来说,每项任务的成本仍会下降(见下文)。
  • 明显变化:对于旧代码仍会发送的若干字段,Neon 会返回 HTTP 400:thinking_budget、原生的 MINIMAL 级别、两个惩罚参数、多个候选项,以及工具调用中无效的思考签名。
  • 不易察觉的变化:temperature、top_p 和 top_k 会被忽略,而较低的输出上限可能会在模型仍处于思考状态时就让它停止。Neon 不支持显式缓存和预填充的 assistant 轮次,Google 也没有说明这些情况会如何失败。
  • 在 AIHubMix 上:每个请求的输出 token 上限为 65,536。Google 的 1M-token 长解码无法通过 AIHubMix 的 OpenAI 兼容端点使用;本文未测试原生路径。

从 Gemini 4 Carbon 迁移则更简单:Google 表示请求架构不会改变,主要区别在于默认级别。Neon 与 Carbon 对比文章介绍了这项迁移。

根据起始模型不同而异的变化

变化 从 3.1 Pro 迁移 从 Argon 迁移 从 3.8 Flash 迁移
默认思考级别 现在为 high 从 medium 变为 high 从 medium 变为 high
xhigh 级别 新增 新增 新增
token 限制 统一为 1M 已统一 统一为 1M
显式缓存 已移除 已移除 已移除
价格,输入 / 输出 $2 / $12 调整为 $3 / $15 $2 / $10 调整为 $3 / $15 $0.75 / $3.75 调整为 $3 / $15

Google 官方价格,单位为每百万 token 的美元价格。Gemini 3.1 Pro 的 $2/$12 适用于不超过 200K token 的提示词(超过则为 $4/$18);Neon 在整个 1M 上下文窗口内采用统一价格。Argon 的 $2/$10 是优惠价格,将于 December 1, 2026 调整为 $4/$20;3.8 Flash 的 $0.75/$3.75 价格持续至 December 31, 2026。Google 表示,3.1 Pro 和 Argon 的上限均为 high;但没有列出 3.1 Pro 的默认值。

除非另有说明,本文其余部分所述规则均来自 Google Cloud 上的 Google Neon 开发者指南,以及 AI Studio 中的迁移清单。

关于起始模型:Google AI Studio 的升级表建议 3.8 Flash 用户迁移到 Gemini 4 Hydrogen。Google Cloud 指南则建议将 3.8 Flash 上的复杂编码和科学工作迁移到 Neon。Google 尚未公布 3.1 Pro Preview、3.8 Flash 或任何 Gemini 4 模型的下线日期。

静默变化:默认值从此为 high

Google 对此说得很直接:“默认 thinking_level 为 HIGH(gemini-4-argon 和 gemini-3.8-flash 的默认值从 MEDIUM 改为 HIGH),并支持用于深度推理任务的 XHIGH……”其解决办法也同样明确:“如果你的工作负载依赖 gemini-4-argon 或 gemini-3.8-flash 的 MEDIUM 默认值,请显式设置 thinking_level="MEDIUM",以保持相当的推理延迟。”

以下是 Artificial Analysis 根据 Google API 测量的数据,展示提高级别的成本(于 2026-11-19 13:27 UTC 重新核查;数据来自第三方,会随着 AA 重新运行模型而变化):

Neon 设置 AA 指数 $/任务 分钟/任务 首次回答(秒)
Medium 54.9 1.90 8.3 20.1
High(默认) 59.6 3.74 14.8 40.6
Xhigh 61.4 6.44 21.5 56.5

AA 按 Intelligence Index 任务计算的平均值,价格按 Neon 的 $3/$15 计算。“首次回答”指首个回答 token 的耗时。

从 medium 调高到 high,指数得分增加 4.8 分,但每项任务的成本几乎翻倍,耗时是 1.8 倍,等待首个回答 token 的时间则翻倍。再调高到 xhigh,得分增加 1.8 分,成本又增加 72%。对于困难的多步骤工作来说,这是不错的取舍;但如果只是回复聊天,则不划算。

Argon 用户也能从这些数据中看到好消息。Neon Medium 得分为 54.9,高于 Argon 默认 Medium 的 47.6;每项任务的成本为 $1.90,低于 Argon 的 $4.31;耗时为 8.3 分钟,低于 Argon 的 28.9 分钟。从 Argon 迁移到 Neon Medium,能提高质量并降低每项任务的成本,而且甚至不必等到 Argon 价格翻倍。即使是 Neon 默认的 High($3.74,14.8 分钟),每项任务的成本也低于 AA 测试中的 Argon Medium。不设置级别,放弃的是成本更低的 Medium 选项。

较高的默认级别还会带来以下影响:

  • 思考 token 会计入输出上限。Google 表示:“HIGH(默认)和 XHIGH 级别生成的推理 token 会计入 max_output_tokens;如果在多轮对话中保留思考签名,这些 token 还会累积到上下文中。”
  • 上下文会更快填满。在多轮编码智能体中,这些思考 token 会不断累积。Google 提醒不要设置“过低的上下文压缩阈值”,并建议在对延迟敏感的工具调用轮次中使用 medium。

如何设置级别取决于协议:

协议 字段 Neon 的可用值
原生 Gemini thinkingConfig.thinkingLevel LOW 到 XHIGH
Chat Completions reasoning_effort low 到 xhigh
Responses reasoning.effort low 到 xhigh
Anthropic Messages output_config.effort low 到 xhigh

在 GenerateContent 中,原生值为大写。其他三种协议的值来自 AIHubMix 为 gemini-4-neon 制定的参数架构,其中所有协议的默认值都列为 high。

Google 的 OpenAI 兼容层会将 reasoning_effort 映射到思考级别,并将 minimal 合并到 low。它还指出,这两者“功能重叠,因此不能同时使用”:两者选其一发送即可。

400 错误

Google 的文档说明了 Neon 的以下错误。AIHubMix 自身的错误说明称,400 错误属于参数错误,“大多数会从上游供应商透传”。本文未进行实时测试,因此你通过网关收到的具体错误文本可能有所不同。

thinking_budget 和 MINIMAL

你会看到:原本适用于 Gemini 3 模型的请求返回 HTTP 400。

原因:Neon 只接受四种指定级别。Google 的模型页面指出:“设置 thinking_budget 或将 thinking_level 设为 "MINIMAL" 会返回 HTTP 400 校验错误。”Google 自己的代码差异也标出了旧字段:thinking_budget=16384, # Returns HTTP 400 instead of mapping silently。

解决办法:删除 thinking_budget。将 MINIMAL 替换为 LOW。在 OpenAI 兼容路径中,Google 会将 reasoning_effort="minimal" 映射为 low,但自行发送 low 就不会产生歧义。

frequency_penalty、presence_penalty 和额外候选项

你会看到:设置了惩罚参数或请求多个候选项时,HTTP 400。

原因:“传入 frequency_penalty、presence_penalty,或将 candidate_count 设为大于 1 的值(candidateCount 固定为 1),都会返回 HTTP 400 错误。”

解决办法:移除两个惩罚参数。将 candidate_count 保持为 1,或直接省略。在 Chat Completions 中,也不要将 n 设为大于 1:Google 没有说明兼容层会如何处理该参数,而 AIHubMix 的架构将其标记为不应发送的字段。

max_output_tokens 大于 1,048,576

你会看到:HTTP 400。

原因:输入和输出共用一个 1,048,576-token 窗口,因此输出预算不能超过该值。

解决办法:在 AIHubMix 上最多发送 65,536(见“输出上限”一节)。这个上限只与 Google 自有 API 上的长解码有关。

思考签名缺失或位置错误

你会看到:工具调用轮次的第二步或后续步骤返回 HTTP 400。

原因:Neon 会校验当前轮次中附加到函数调用的思考签名。“当前轮次中第一个 functionCall 部分缺少 thought_signature 会返回 HTTP 400 错误。将签名重复附加到同级的其他 functionCall 部分,或交错排列轮次,也会返回 HTTP 400 错误。”

Google 的思考签名指南展示了 Gemini 3 模型的消息格式:“内容块中的 <Function Call> 函数调用在 <index of contents array> 位置缺少 thought_signature。”Neon 指南说明了 400 错误,但没有给出具体错误文本。

解决办法:将模型的轮次原样传回。并行调用时,只有第一个调用携带签名。将所有调用放在同一个模型轮次中,并按相同顺序将所有结果放在同一个用户轮次中。Google 给出的示例是:模型返回“FC1 + signature, FC2”时,预期的下一个请求应包含“FC1 + signature, FC2, FR1, FR2”。如果交错排列为“FC1 + signature, FR1, FC2, FR2”,就会返回 400。

超出范围的采样值

你会看到:temperature 或 top_p 超出有效范围时返回 HTTP 400。

原因:Google 会忽略范围内的值,但仍会对这些值进行校验:“超出范围的值会返回 400 校验错误。”

解决办法:完全移除采样参数(见下一节)。

请求示例

通过 AIHubMix 发送的正确请求,使用快速入门中的设置:

curl -s https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-4-neon",
    "reasoning_effort": "medium",
    "max_completion_tokens": 65536,
    "messages": [{"role": "user", "content": "Reply with OK."}]
  }'

Google 文档中列为 Neon 会返回 400 的请求:

curl -s https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-4-neon",
    "frequency_penalty": 0.5,
    "messages": [{"role": "user", "content": "Reply with OK."}]
  }'

在原生 Gemini 端点上进行同样的检查,使用旧字段 thinkingBudget。路径遵循 AIHubMix 为其他 Gemini 模型记录的模式;Neon 自身的页面只展示了 Chat Completions 示例。

curl -s "https://aihubmix.com/gemini/v1beta/models/gemini-4-neon:generateContent" \
  -H "x-goog-api-key: $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [{"role": "user", "parts": [{"text": "Reply with OK."}]}],
    "generationConfig": {"thinkingConfig": {"thinkingBudget": 16384}}
  }'

这些是请求示例,并非记录下来的响应:本文没有实际运行其中任何一个请求。

其他需要留意的变化

采样参数不起作用

Google 将 Neon 的采样参数固定为 temperature 1.0、topP 0.95 和 topK 64,并会忽略自定义值。原本用于让输出可重复的 temperature: 0 不会产生任何效果,而且不会报错提醒你。Google 的建议是:“使用 thinking_level 控制推理深度,使用 response_schema 控制输出格式。”需要固定格式时,请使用结构化输出。

显式缓存已不再支持

cachedContents、caches.create 和 cached_content 均不受支持。Google 没有说明仍发送这些字段的请求会失败还是被忽略,因此别等到碰上问题才处理,直接移除它们。Neon 只支持隐式缓存:当共享提示词前缀至少包含 4,096 个 token 时,会自动应用缓存(3.8 Flash 的要求是 6,144 个 token);缓存输入的价格为每百万 token $0.15,而非 $3.00。若要使用缓存,请将提示词中的静态部分放在最前面:系统指令、工具定义和参考文档。删除显式缓存代码;Neon 没有对应功能。

较低的输出上限会压缩思考空间

针对旧模型调优的应用通常会将 max_tokens 设为 8,192 或更低。在 Neon 中,思考和回答共享这一预算,因此上限过低可能会让响应在答案开始前就结束。Google 建议“移除硬编码的低上限(例如 8,192),或将 max_output_tokens 提高到 65,536。若要减少 token 用量,请降低思考级别。”

超短超时设置

Google 表示:“复杂提示词可能需要几分钟。请使用后台执行,或将 HTTP 客户端超时设为至少 15 分钟。”根据 AA 的平均数据,Neon High 平均需要等待 40.6 秒才会输出第一个答案 token,Xhigh 则为 56.5 秒。有些请求的耗时会远超平均值。

预填充的 assistant 回合

Neon 的历史记录规则是:“历史记录负载不能以模型角色回合结尾。”“不支持预填充的模型回合。”通过预先写入 assistant 回复来引导格式,是使用 Anthropic API 时常见的技巧,但必须停止这样做。Google 将这些列为聊天验证规则,但没有说明会返回什么响应;AIHubMix 的 schema 指出,最后一回合是 model 时会返回错误。如果代码依赖预填充,请进行测试。

以文本形式编写的工具调用

如果系统提示词要求模型将 JSON 工具调用写成纯文本,且没有声明任何工具,Google 表示 Neon“可能会返回 MALFORMED_FUNCTION_CALL”。请原生声明工具,或使用结构化输出。

AIHubMix 上的输出上限:65,536 个 token

在 Google 自有 API 上,Neon 的单次响应最多可输出 65,536 个 token,无论是否使用流式输出。更长的回答会使用 long decode:生成过程以 64K 为一段继续进行,总量最多为 1,048,576 个 token 减去输入 token 数;需通过 Interactions API 或 GenerateContent v1beta1 使用。从以下版本开始,Google 的 SDK 可以自动处理续传 token:Interactions API 对应的 Python google-genai 2.34.0 和 JavaScript @google/genai 2.32.0。

Google 还表示:“较早的 SDK 版本和 OpenAI 兼容层无法使用续传 token 获取长篇补全内容。”

AIHubMix 的 gemini-4-neon 参数 schema 在其提供的所有协议上都将输出上限设为 65,536 个 token:Chat Completions、Responses、Anthropic Messages 和原生 Gemini。schema 还在原生 Gemini 协议中列出了 Google 的 continuationToken 字段;AIHubMix 也介绍了 Google 原生 SDK 和 Interactions API 的一般用法。本文并未测试通过这条路径为 Neon 使用 long decode。在确认可用之前,请按单次响应最多 65,536 个 token 来设计,且其中包括思考 token。如果需要更多,请自行拆分任务,例如每次请求处理一个文件或一个章节。

容易忽略的计费规则

思考也属于输出。Neon 的输出价格为每百万 token $15,其中包括思考 token。使用 high 时,复杂请求的大部分输出可能都是思考内容。

Grounding 会产生双重计费。Google 会将“使用 grounding 时的内部工具系统指令和函数声明”计为计费 token,并对每次搜索查询单独收费。Google 自有服务每月提供 5,000 次免费搜索,Gemini 3 及更新版本共享此额度,之后每 1,000 次收费 $14。AIHubMix 按请求收取联网搜索费用;Neon 模型页面列出了费率。

缓存需要正确安排提示词顺序。95% 的缓存折扣仅适用于至少包含 4,096 个 token 的稳定前缀。如果在系统提示词开头放入时间戳或用户名,每次请求都会导致缓存失效。

Long decode 会对输入重复计费(仅限 Google API)。“每个续传片段都会重新预填提示词和之前已解码的 token”,因此输入 token 数会随片段逐步增加。“已完成的片段会在每个片段结束时计费,即使后续片段失败或被取消也不例外。”通过 AIHubMix 的 65,536-token 上限使用时,不会出现这种情况。

更便宜的档位是 Google 的价格。Google 的 Neon Batch 和 Flex 价格为 $1.50/$7.50,Priority 为 $5.40/$27。AIHubMix 的 schema 接受 Neon 的 service_tier 参数 flex 或 priority,但未公布这些档位的价格,也未列出 Batch。请按标准价格 $3/$15 做预算。

降低费用的做法:

  • 按调用类型设置 reasoning_effort:交互和工具回合使用 medium,规划使用 high,只有在你自己的评测表明值得时才使用 xhigh。
  • 将静态提示词前缀放在最前面,并确保长度超过 4,096 个 token。
  • 只在需要联网搜索的回合使用它。
  • 留意 usage 中的 completion_tokens,它包含思考内容,而不只是可见答案。

具有实际权限的智能体

Neon 对工具调用有严格规则,尤其是智能体可以写入文件或运行命令时,更要注意:

  • 确保调用和结果相匹配。“每个 FunctionResponse 的 id、name 和顺序都必须与前面的 FunctionCall 相匹配。”
  • 保留完整历史记录,包括签名。Google 表示:“在此前所有回合中,传回每个 thought_signature,且保留在其原始 Part 中……”删除旧签名,或使用 skip_thought_signature_validator 之类的占位符,“会丢失推理上下文,并可能触发 MALFORMED_FUNCTION_CALL。”
  • 使用 Chat Completions 时,原样返回 assistant 消息。保留每条 assistant 消息及其工具调用,确保与 API 返回的内容完全一致。不要根据自己的日志重新构建历史记录。Google 说明,其 OpenAI 兼容的 Chat Completions 支持 Gemini 3 模型的 thought signature;请确认你的客户端也会为 Neon 保留这些签名。
  • 留意静默停止。格式错误的函数调用会让回合直接结束,且没有可用答案。开源代理项目报告过此类情况:OpenAI 风格的客户端收到的可能是普通的 stop,也可能是服务器错误。相关问题分别是 LiteLLM 的 pull request 52745 和 Divyam 在 GitHub 上的 issue 60,均于 2026 年 11 月提出。如果智能体收到没有工具调用的空回合,应将其视为失败并重试,而非任务结束。

Google 表示,Neon 在这些循环中的表现比前代更稳定。它“能减少重复读取文件,可靠地处理上下文压缩,并尽量避免编造内容和走捷径”,还能减少“智能体越权和服务不足”。这些都是 Google 根据自己的评测得出的说法。它们降低了风险,但不能取代权限限制和写入操作审查。

编程工具:Claude Code 和 Codex

AIHubMix 的参数 schema 为 gemini-4-neon 列出了四种协议,其中包括两种编程智能体所需的协议:Claude Code 使用 Anthropic Messages,Codex 使用 Responses API。设置方式与任何 AIHubMix 模型相同,Claude Code 设置文章和Codex config.toml 配置文章对此有详细说明。以下是 Neon 特有的设置:

设置项 Claude Code Codex
协议 Anthropic Messages Responses API
模型 ID gemini-4-neon gemini-4-neon
推理强度值 low 到 xhigh low 到 xhigh
上下文窗口 1,048,576 1,048,576
单次请求输出量 65,536 65,536

推理强度值和限制来自 AIHubMix 的参数 schema;两种协议的默认推理强度均为 high。

Claude Code。将 ANTHROPIC_MODEL 设为 gemini-4-neon。调高 API_TIMEOUT_MS:其默认值为 10 分钟,而 Google 建议复杂提示词至少设置为 15 分钟。不要通过同一端点在自定义请求中加入 assistant 预填充;Neon 不支持此功能。

Codex。保留 wire_api = "responses" 和 AIHubMix 的 base_url,将 model = "gemini-4-neon",并从 Neon 支持的级别中选择 model_reasoning_effort。建议从 medium 开始;Codex 会执行很多简短的工具回合,在这些回合中,high 大多只会增加等待时间。

需要留意的已知问题:

  • 使用 high 和 xhigh 时,首个 token 的延迟较长。
  • 思考耗时过长时,响应可能在达到 65,536-token 上限后停止。
  • 工具调用失败时会出现空回合,如上所述。
  • 知识截止时间为 2026 年 3 月,因此需要将之后发布的库版本信息放入上下文中。

10–15 分钟冒烟测试

  1. 选择一个小型代码仓库,其中有一个未通过的单元测试,且测试命令能在一分钟内运行完。
  2. 将工具指向 gemini-4-neon,把推理强度设为 medium,并将客户端超时设为至少 15 分钟。
  3. 要求它做出能让测试通过的最小改动。然后运行测试并检查差异。
  4. 通过标准:差异最小、测试通过,且在 15 分钟内完成。失败时,记录问题属于 400 错误、空回合、超时还是错误修改。上文针对每种情况都提供了修复方法。
  5. 再用 high 重复测试。除非 high 修正了 medium 出错的地方,否则保留较低级别。

检查清单

  • 模型 ID 设为 gemini-4-neon。
  • 按调用类型显式设置思考级别;如果之前依赖 Argon 或 3.8 Flash 的默认值,请设为 medium。
  • 不使用 thinking_budget;将 MINIMAL 替换为 LOW。
  • 每次请求只能使用 reasoning_effort 和原生思考级别其中之一。
  • 不使用 frequency_penalty 或 presence_penalty;将 candidate_count 和 n 设为 1,或省略。
  • 不使用 temperature、top_p 或 top_k;格式要求明确时使用结构化输出。
  • 移除显式缓存代码;将静态提示词前缀放在最前面,且长度超过 4,096 个 token。
  • 在 AIHubMix 上将输出上限设为不超过 65,536,并移除沿用自旧模型的低上限。
  • 将客户端超时设为 15 分钟或更长。
  • 历史记录不能以 assistant 回合结尾;不使用预填充。
  • assistant 回合和工具调用必须与收到时完全一致地返回;并行调用及其结果须按顺序分组。
  • 将没有工具调用的空回合视为失败并重试。
  • 预算需计入思考 token 和联网搜索请求。
  • 已使用 medium 和 high 对编程工具进行冒烟测试。

常见问题

迁移到 Gemini 4 Neon 需要更改请求格式吗?
如果是从另一款 Gemini 4 模型迁移,不需要:Google 表示 schema 相同,因此只需更改模型 ID 并检查思考强度。如果是从 Gemini 3.1 Pro 或 Gemini 3.8 Flash 迁移,则需移除 thinking_budget、MINIMAL、惩罚参数和显式缓存。

为什么从 3.8 Flash 切换后请求成本更高了?
Neon 的价格是 3.8 Flash 的四倍,而且默认使用高思考强度,而 3.8 Flash 默认使用中等思考强度。根据 Artificial Analysis 的测量结果,Neon High 的单任务成本约为 Neon Medium 的两倍。请显式设置思考强度。从 Argon 迁移时,即使使用高思考强度,AA 的单任务成本也会降低。

为什么 Neon 会因 thinking_budget 返回 400 错误?
Neon 只接受指定的思考强度:low、medium、high 和 xhigh。Google 会拒绝 thinking_budget 和 MINIMAL,并返回 HTTP 400,而不是将它们映射为对应值。

temperature 还有效吗?
不。Neon 会忽略 temperature、top_p 和 top_k,超出范围的值则会返回 400。请改用思考强度和结构化输出。

通过 AIHubMix,Neon 能否返回超过 65,536 个 token?
AIHubMix 文档说明,Neon 每个请求的输出上限为 65,536 个 token,其中包括思考内容。Google 的 API 支持长达约 1M token 的解码;但通过 AIHubMix 无法在 OpenAI 兼容端点上使用此功能,原生接口路径也尚未在此处测试。

我可以在 Claude Code 或 Codex 中使用 Gemini 4 Neon 吗?
可以。AIHubMix 提供 Claude Code 使用的 Anthropic Messages 协议,以及 Codex 使用的 Responses API。将模型设置为 gemini-4-neon,调高超时时间,并先运行一次简短的冒烟测试。

Gemini 3.1 Pro 会下线吗?
Google 尚未公布 Gemini 3.1 Pro Preview、Gemini 3.8 Flash 或任何 Gemini 4 模型的下线日期。Google 建议将 Neon 作为 3.1 Pro 的升级选择。

继续阅读:Gemini 4 Neon 系列

来源

一个网关接入多家 AI 服务商, 为生产环境而生。

访问推理时代官网