GPT-5.6 上线:提示缓存计费变化详解

2026 年 7 月:GPT-5.6 gpt-5.6-sol / terra / luna 登陆 AIHubMix:1.05M 上下文,缓存写入 1.25 倍,prompt_cache_key,显式断点,对比 Claude 缓存。

推理时代阅读约 8 分钟
GPT-5.6 上线:提示缓存计费变化详解

OpenAI 于 2026 年 7 月 9 日正式发布 GPT-5.6 系列。AIHubMix 已完成三个层级的接入:gpt-5.6-sol、gpt-5.6-terra 和 gpt-5.6-luna 现已通过 Chat Completions 和 Responses 提供服务。此次发布还调整了提示缓存机制及其计费方式:缓存写入现在单独计费。本文介绍三个层级的定位,并逐点讲解缓存方面的变化。

GPT-5.6 三个层级的变化

GPT-5.6 调整了命名方式:数字表示模型代际,而 Sol、Terra 和 Luna 是可以各自独立演进的能力层级。根据官方定义,Sol 是旗舰模型,Terra 是价格较低的层级,性能与 GPT-5.5 相当,Luna 是速度最快、价格最低的层级。

gpt-5.6-sol gpt-5.6-terra gpt-5.6-luna
官方定位 面向复杂专业工作的旗舰模型 智能与成本兼顾 面向对成本敏感的工作负载
上下文窗口 1,050,000 1,050,000 1,050,000
最大输出 128,000 128,000 128,000
知识截止时间 2026-02-16 2026-02-16 2026-02-16
上一代大致对应 无后缀层级 mini 层级 nano 层级

在能力方面,官方的说法是:Sol 在编程、知识工作、网络安全和科学任务上取得了当前最优的结果,OpenAI 称其为迄今最好的编程模型,并在 Terminal-Bench 2.1 和 DeepSWE 上刷新了纪录;Terra 的性能与 GPT-5.5 相当,价格只需一半。该系列新增了 max 推理级别,Responses API 也新增了程序化工具调用(Programmatic Tool Calling)和多智能体(Beta)能力。

缓存机制升级详解

在 GPT-5.6 之前,GPT 模型的提示缓存完全自动进行:前缀达到 1,024 个 token 或以上时自动缓存,开发者无法控制缓存的内容或保留时长,缓存在 5–10 分钟无活动后被清除。OpenAI 将 GPT-5.6 的变化概括为“更可预测的提示缓存”,具体包括三点:

  1. 缓存保留时间从“最短 5 分钟”延长至“至少 30 分钟”。prompt_cache_options.ttl 目前只支持 "30m";这是有保障的最短时长,实际保留时间可能更长。
  2. 显式缓存断点为新增功能。在内容块上设置 prompt_cache_breakpoint,可将缓存边界固定在稳定内容的末尾,因此断点之后的变化不会使其之前的缓存前缀失效;将 prompt_cache_options.mode 设为 "explicit" 后,则只使用手动设置的断点。
  3. prompt_cache_key 从可选优化变为官方要求。从 GPT-5.6 开始,应设置该参数以实现更可靠的缓存匹配;OpenAI 建议每个 key 的流量控制在约每分钟 15 次请求。

如何评估 1.25 倍缓存写入计费

从 GPT-5.6 开始,缓存写入按基础输入价格的 1.25 倍计费,缓存读取按 0.1 倍计费;在早期模型上,缓存写入不产生额外费用。根据 GPT-5.6 公告的官方表述:“对于 GPT-5.6 及之后的模型,缓存写入按该模型未缓存输入价格的 1.25 倍计费,而缓存读取仍享受 90% 的缓存输入折扣。”

盈亏平衡计算可以直接由官方费率推出:写入一个前缀比不缓存多花 0.25 倍输入价格,而之后每次命中可节省 0.9 倍输入价格:即使前缀只复用一次也能产生净节省,复用次数越多,节省越多。

  • 明显受益的工作负载:带有较长系统提示的智能体工作流、反复包含长参考资料的 RAG、携带大量工具定义的应用,以及只追加消息的多轮对话。这些工作负载的前缀复用率很高,因此 0.1 倍的读取费率占主导。
  • 需要留意的工作负载:前缀从不被复用的一次性长请求。自动缓存默认开启,因此这些请求会产生无法收回的 1.25 倍写入费用;如果将 prompt_cache_options.mode 设为 "explicit" 且不设置任何断点,请求将完全跳过缓存,也不会产生写入费用。

对比:GPT-5.6 与 Claude 的提示缓存

GPT-5.6 的缓存设计在多个维度上与 Claude 的 cache_control 趋于一致,核心差异在于默认行为:GPT 无需任何参数即可自动缓存,而 Claude 需要在请求中显式启用缓存,可以通过顶层 cache_control 字段(自动断点)或在内容块级别设置显式断点。

维度 GPT-5.6 系列 Claude 系列(所有在用模型)
启用方式 自动缓存,可选设置显式断点 必须显式启用:顶层 cache_control 自动断点,或内容块级别的显式断点
断点参数 prompt_cache_breakpoint(内容块级别) cache_control(顶层或内容块级别)
断点数量上限 每个请求最多新增 4 次缓存写入 最多 4 个断点
缓存保留时间 至少 30 分钟 默认 5 分钟(每次命中免费刷新),可选 1 小时
缓存写入计费 输入价格的 1.25 倍 5 分钟档为 1.25 倍,1 小时档为 2 倍
缓存读取计费 输入价格的 0.1 倍 输入价格的 0.1 倍
最小可缓存长度 1,024 个 token 512–4,096 个 token,取决于模型
命中要求 断点之前的内容必须逐字节完全一致 断点之前的内容必须逐字节完全一致

Claude 一列反映的是所有在用 Claude 模型共享的规则:5 分钟档写入为 1.25 倍,1 小时档为 2 倍,读取为 0.1 倍,这些规则在整个产品线上统一适用(Anthropic 提示缓存文档),仅最小可缓存长度因模型而异;GPT-5.6 一列则来自 OpenAI 提示缓存指南。

两家提供商的断点数量上限、(对应档位的)写入费率以及读取费率完全一致;实际来看,两者都可以沿用同样的“静态内容在前、变化内容在后”的提示结构策略。迁移成本主要集中在参数语法上:GPT 使用 prompt_cache_breakpoint + prompt_cache_key,Claude 使用 cache_control。

两种协议中相同的缓存模式

以下针对同一个“缓存静态长指令”场景,给出两种协议的最简实现。示例使用 gpt-5.6-sol 和 claude-opus-4-8。两者的基础输入价格相同($5/M),因此由缓存写入(1.25 倍)和读取(0.1 倍)推算出的每 token 实际价格也相同;差别只在语法上。

GPT 协议在顶层设置 prompt_cache_key(长前缀会被自动缓存,无需断点标记);Claude 协议在顶层设置 cache_control 以启用自动缓存,当需要精确控制缓存边界时,则切换为内容块级别的断点:

GPT-5.6(Chat Completions)

curl https://aihubmix.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -d '{
    "model": "gpt-5.6-sol",
    "prompt_cache_key": "my-app-report-v1",
    "messages": [
      {
        "role": "system",
        "content": "[Static long instructions, >=1024 tokens]"
      },
      {
        "role": "user",
        "content": "Summarize the key figures."
      }
    ]
  }'

Claude(Messages)

curl https://aihubmix.com/v1/messages \
  -H "Content-Type: application/json" \
  -H "x-api-key: $AIHUBMIX_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-opus-4-8",
    "max_tokens": 1024,
    "cache_control": {"type": "ephemeral"},
    "system": "[Static long instructions, >=1024 tokens]",
    "messages": [
      {
        "role": "user",
        "content": "Summarize the key figures."
      }
    ]
  }'

对比两个请求,差异主要体现在:端点(/v1/chat/completions 与 /v1/messages)、认证头(Authorization: Bearer 与 x-api-key + anthropic-version)、缓存参数(顶层 prompt_cache_key 与顶层 cache_control),以及 Claude 要求显式设置 max_tokens。两个请求均已于 2026-07-10 在 aihubmix.com 上验证:gpt-5.6-sol 在第二次调用时返回 cached_tokens: 2816;claude-opus-4-8 在第一次调用时返回 cache_creation_input_tokens: 3632,第二次调用时返回 cache_read_input_tokens: 3632。

除请求格式外,两者在机制层面还有三点差异:

  1. 启用方式:GPT 即使不带任何缓存参数也会自动缓存,prompt_cache_key 则用于提升命中可靠性;Claude 则需要显式声明:内容块级别的 cache_control 断点,或顶层 cache_control 自动模式。
  2. 用量字段:GPT 通过 prompt_tokens_details.cached_tokens 报告缓存读取量;Claude 则分别通过 cache_creation_input_tokens 和 cache_read_input_tokens 报告写入与读取量,便于独立核实写入和命中情况。
  3. 生命周期控制:GPT-5.6 的 ttl 目前只支持 "30m";Claude 默认 5 分钟(每次命中免费刷新),可选 "ttl": "1h"(写入按 2 倍计费)。

跨协议切换模型时需要修改的内容

AIHubMix 网关支持跨协议调用:OpenAI 兼容端点可以调用 Claude 模型(cache_control 直接放入 OpenAI 格式的消息内容块中,参见 提示缓存实践),而 Claude 兼容的 /v1/messages 端点可以调用 GPT-5.6(已验证可用)。切换模型时,需检查以下三点:

  • 将 model 改为目标模型的 ID;
  • 切换缓存参数语法:prompt_cache_key / 显式断点对应 Claude 的 cache_control;
  • 切换用量字段名称:cached_tokens 对应 Claude 的 cache_read_input_tokens。

提示缓存的推荐路径:GPT 模型通过 Chat Completions 调用(即本文验证过命中的路径);Claude 模型两种协议均可使用。

对比:GPT-5.6 与早期 GPT 缓存

维度 GPT-5.6 之前 GPT-5.6 及之后
缓存写入 无额外费用 输入价格的 1.25 倍
缓存保留时间 无活动 5–10 分钟后清除,最长 1 小时 至少 30 分钟
缓存控制 无 显式断点、显式模式、prompt_cache_key 可靠匹配
24 小时延长保留 部分模型支持 prompt_cache_retention 已由 prompt_cache_options.ttl 取代(目前仅支持 30m)

这些变化指向同一个方向:上一代缓存不收写入费,但不可控,保留时间也不确定;GPT-5.6 则对写入收费,同时提供有保障的最短保留时间和精确的缓存控制。按现行费率计算,平均复用超过一次的前缀所节省的费用会超过新增的写入成本;30 分钟的最短保留时间和可控的断点,让达到这一复用率变得更可预测。

在 AIHubMix 上开始使用

三个档位均已上线,模型 ID 分别为 gpt-5.6-sol、gpt-5.6-terra 和 gpt-5.6-luna。缓存无需额外配置;连续发送具有相同长前缀的请求即可命中缓存:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

long_context = "You are a meticulous assistant for analyzing quarterly financial reports... [Static long instructions, >=1024 tokens]"

for i in range(2):
    completion = client.chat.completions.create(
        model="gpt-5.6-sol",
        prompt_cache_key="my-app-report-assistant-v1",
        messages=[
            {"role": "system", "content": long_context},
            {"role": "user", "content": "Summarize the key figures in one sentence."},
        ],
    )
    print(completion.usage.prompt_tokens_details)

第二次调用时,若 usage.prompt_tokens_details.cached_tokens 的值大于 0,即表示命中缓存(实测示例:cached_tokens: 2816)。有关参数细节、计费说明及命中问题排查,请参阅 GPT Prompt Caching 文档。

常见问题

在 AIHubMix 上,哪些 API 可以调用 GPT-5.6?

Chat Completions(/v1/chat/completions)、Responses(/v1/responses)以及兼容 Claude 的 Messages API(/v1/messages)均可调用这些模型,且三个档位全部上线。对于提示词缓存,目前推荐使用 Chat Completions。

如果我的客户端不做任何改动,升级到 GPT-5.6 后计费会有什么变化?

提示词缓存默认自动生效:前缀达到 1,024 个 token 的请求会产生一笔缓存写入费用,按输入费率的 1.25 倍计费;被复用的前缀则按 0.1 倍的读取费率计费。前缀复用率高的应用通常总成本会下降;对于从不复用前缀的一次性长请求,可以通过显式模式关闭缓存。

我之前使用过 Claude 的提示词缓存,迁移到 GPT-5.6 需要改什么?

提示词的结构策略保持不变:静态内容放在前面,变化内容放在最后。参数由 cache_control 改为 prompt_cache_breakpoint,并新增 prompt_cache_key;保留时间由 5 分钟/1 小时两档改为有保障的 30 分钟最短保留时间。

如何在 GPT-5.6 的三个档位之间进行选择?

按照官方定位:复杂的专业工作和编码任务选择 Sol;日常工作负载选择 Terra(性能与 GPT-5.5 相当,价格仅为一半);对成本敏感、高吞吐量的场景选择 Luna。三个档位共享相同的上下文窗口和最大输出长度,因此可以根据任务复杂度进行路由分配。

官方参考资料

本文中的模型规格、缓存机制和计费费率均来自以下官方资料:

本站相关文档:GPT Prompt Caching · Claude Prompt Caching · Prompt Caching 实践


访问模型广场查看 GPT-5.6 的价格,或在文档中心探索更多集成方式。


最后更新:2026-07-10

一个网关接入多家 AI 服务商, 为生产环境而生。

访问推理时代官网