GPT-6.1 Terra 的真实成本:推理强度、272K 分界线与缓存

推理时代阅读约 12 分钟
GPT-6.1 Terra 的真实成本:推理强度、272K 分界线与缓存

GPT-6.1 Terra 于 2026 年 10 月 26 日发布,输入价格为每百万 token $1,输出价格为每百万 token $5。输入价格是 GPT-5.6 Terra 的一半,输出价格也远低于其 $12 的价格。标价只是起点。实际的 Terra 工作负载账单由三件事决定:

  • 推理强度。推理 token 按输出计费,不同推理强度之间的成本相差数倍。
  • 272K 分界线。请求输入超过 272,000 个 token 后,整个请求都会按更高费率计费。
  • 缓存。命中缓存的前缀按正常输入价格的 5% 计费;未命中或被改写的前缀则按全价或更高价格计费。

下文将逐项列出一个明确说明所有假设的工作负载价格、容易忽略的计费规则、与 GPT-6.1 Sol、Claude Sonnet 5.5 和 GPT-5.6 Terra 的单任务成本对比,以及一段记录账单相关用量字段的 Python 示例。AIHubMix 以 gpt-6.1-terra 提供 Terra,价格与 OpenAI 相同。

价格表

所有价格均为每百万 token 的美元价格,数据来自OpenAI 模型页面。AIHubMix 的模型页面列出了相同的标准输入、缓存读取和输出价格,但未列出缓存写入或长上下文价格;其缓存文档只给出统一的 1.25 倍写入费率,因此没有公布 12 小时缓存的溢价。

Token 类型 输入不超过 272K 输入超过 272K
输入 $1.00 $2.00
缓存输入(读取) $0.05 $0.10
缓存写入,30 分钟 $1.25 $2.50
缓存写入,12 小时 $2.50 $5.00
输出 $5.00 $7.50

OpenAI 列出了一组费率,其余情况则以规则说明:输入 token 超过 272K 后,整个请求的输入和缓存费率翻倍,输出费率提高至 1.5 倍,因此 12 小时缓存写入价格为 $5.00。AIHubMix 未公布 Terra 的长上下文费率,因此无法确认网关在输入超过 272K 后的收费标准。

OpenAI 还提供 Batch 和 Flex 处理,折扣为 50%;Fast 模式收费为 2 倍;区域处理则加价 +10%。这些是 OpenAI 的条款。AIHubMix 不提供 OpenAI 的 Batch API(AIHubMix 于 10 月 27 日进行检查时,GET /v1/batches 返回了 404)。同一轮检查发现,service_tier "flex" 可以被接受并回显为 "flex","priority" 也可以被接受并回显为 "fast";按 OpenAI 的条款,后者对应收费为 2 倍的 Fast 模式。AIHubMix 的 Terra 价目表只列出标准费率,因此这两种计费费率都无法确认。请查看用量日志,不要想当然地认为自己享受了折扣。

以下是稍后会进行比较的模型及其官方价格(在 AIHubMix 上也相同):

模型 输入 缓存 输出
GPT-6.1 Terra $1 $0.05 $5
GPT-5.6 Terra $2 $0.20 $12
GPT-6.1 Sol $2 $0.10 $10
Claude Sonnet 5.5 $2 $0.10 $10

容易忽略的计费规则

推理 token 按输出 token 计费。如果一个请求在生成 8,000 个推理 token 后返回 2,000 个可见 token,就会按 10,000 个输出 token 计费。请从 usage 对象读取成本相关用量,而不是根据回答长度估算。

272K 分界线会对整个请求重新定价。这不是只对超过 272,000 的 token 按边际费率计费。请求中的每个输入 token 价格都会翻倍,每个输出 token 的价格都会提高 50%。以下是在分界线附近的计算示例,两种情况下都不使用缓存,且均有 20,000 个输出 token:

请求 输入成本 输出成本 总计
270,000 个输入,20,000 个输出 $0.27 $0.10 $0.37
300,000 个输入,20,000 个输出 $0.60 $0.15 $0.75

输入仅增加 11%,账单就会大致翻倍。Terra 最多接受 922,000 个输入 token(上下文为 1,050,000);只是超过 272K 后收费会更高。

缓存写入并非免费。在 GPT-5.6 及之后的模型中,写入缓存的前缀按输入费率的 1.25 倍计费,默认有效期为 30 分钟;若有效期为 12 小时,则按 2.5 倍计费,且这一选项仅适用于 Responses API。无论选择哪种有效期,Terra 的缓存读取费率都是输入费率的 0.05 倍。根据 OpenAI 的提示词缓存指南,这些是总费率,而非额外附加费:每个输入 token 只计费一次,按普通输入、缓存读取或缓存写入计费。可缓存前缀至少需要 1,024 个 token。

在 AIHubMix 上,Chat Completions 与 Responses 不共享缓存。在 AIHubMix 的检查中,一个包含 9,623 个 token 的开发者前缀在第一次 Responses 调用时写入缓存,并在第二、第三次调用时命中。随后将相同前缀发送到 Chat Completions,却再次写入缓存,没有命中。混用这两种请求会为两份缓存写入付费。

在 AIHubMix 上,推理强度设置只对 Responses 生效。在 Responses API 上,一个素数求和提示词在 none 推理强度下生成了 72 个输出 token,在 max 下生成了 1,153 个(其中 1,078 个是推理 token)。在 Chat Completions 上,对同样的测试设置 reasoning_effort 并未带来一致的差异(none 和 max 每次运行都产生约 200-300 个推理 token),这表明该路由使用固定的推理强度。如果想通过降低推理强度省钱,请将这些请求发送到 Responses。

内置网页搜索按调用次数计费。AIHubMix 列出的 web_search_requests 价格为每次调用 $0.01,token 费用另计。

一个真实月份的费用明细

假设有一个支持服务或文档处理工作负载,每月通过 Responses API 发送 10,000 个请求。假设条件如下:

  • 每个请求都包含一个 2,500-token 的稳定前缀(系统提示词、工具定义、参考规则),并命中缓存;
  • 每个请求再添加 1,500 个新的输入 token(用户消息或文档);
  • 每个请求返回 1,500 个输出 token,其中包括推理 token,推理强度为 medium(Terra 的默认设置);
  • 每个请求的输入都不超过 272K,因此适用标准费率;
  • 总费用中不计缓存写入(见表格下方的说明)。

一个月下来,总计为 25M 个缓存 token、15M 个新输入 token和 15M 个输出 token。

项目 Token 数 每 M 费率 成本
缓存输入 25M $0.05 $1.25
新输入 15M $1.00 $15.00
输出,medium 15M $5.00 $75.00
总计,medium $91.25

缓存写入在这里只会增加少量费用。每次写入这个 2,500-token 前缀时,这些 token 按每百万 $1.25 计费,而非 $0.05,每次写入大约多花 $0.003。

两个变化示例可以说明费用流向何处。

不使用缓存。如果前缀从未命中缓存(每个请求的前缀都不同,或流量分散到不同路由),全部 40M 个输入 token 都按 $1 计费:输入费用为 $40,加上 $75 的输出费用,总计 $115。使用缓存每月可节省 $23.75,约为账单的五分之一。

推理强度为 max。Artificial Analysis 在其 Intelligence Index 测试中测得,每项任务在 medium 推理强度下约生成 6,000 个输出 token,在 max 下约生成 35,000 个,比例约为 5.8 倍。将 1,500 个输出 token 按 35/6 倍放大,每个请求就会生成 8,750 个输出 token,每月合计 87.5M。输出费用为 87.5M x $5 = $437.50,每月总费用为 $1.25 + $15.00 + $437.50 = $453.75,约为 medium 账单的五倍。推理强度设为 max 的成本远高于缓存未命中。

在所有情况下,输出费用都占大头。medium 下,输出费用为 $75,占总账单 $91.25 的 82%。因此,首先应该关注的设置是推理强度,而不是输入价格。

与 Sol、Sonnet 5.5 和 GPT-5.6 Terra 的单任务成本对比

使用相同的工作负载和 token 数量(25M 个缓存 token、15M 个新输入 token、15M 个输出 token),分别按每个模型的官方价格计算:

模型 缓存 输入 输出 每月 每个请求
GPT-6.1 Terra $1.25 $15.00 $75.00 $91.25 $0.0091
GPT-6.1 Sol $2.50 $30.00 $150.00 $182.50 $0.0183
Claude Sonnet 5.5 $2.50 $30.00 $150.00 $182.50 $0.0183
GPT-5.6 Terra $5.00 $30.00 $180.00 $215.00 $0.0215

在 token 数量相同的情况下,Terra 的成本是 Sol 和 Sonnet 5.5 的一半,约为 GPT-5.6 Terra 的 42%。但前提是 token 数量相同:不同模型在同一任务上消耗的推理 token 数量不同,而且推理强度较高的 Terra 可能比推理强度较低的 Sol 消耗更多 token。

测得的单任务成本也说明了这一点。以下数据来自 Artificial Analysis,这是一项独立基准测试,按指定的推理强度对每个模型进行了 Intelligence Index 测试。

模型与推理强度 指数得分 每项任务的输出 token 数 单任务成本
Terra,关闭推理 33 未列出 $0.11
Terra,medium 41 6k $0.10
Terra,high 44 9k $0.13
Terra,max 48 35k $0.40
Sol,medium 48 8k $0.21
Sol,xhigh 51 18k $0.39
GPT-5.6 Terra,max 42 39k $1.40
Sonnet 5.5,max 56 197k $5.46

Sonnet 5.5 这一行采用的是 Artificial Analysis 默认的 max 推理强度设置。

可以得出三点结论。Terra 的 medium 档是表中成本最低的选项,Artificial Analysis 也认为 Terra 的 low 和 medium 推理强度位于帕累托最优前沿。在这次测试中,关闭推理并没有省钱:不启用推理时,每项任务成本为 $0.11,得分为 33。另一方面,Terra 的 max 档($0.40)与 Sol 的 xhigh 档($0.39)成本相近,但得分更低;而且几乎花费双倍价格,得分却只与 Sol 的 medium 档持平。Sonnet 5.5 得分最高,但在 max 推理强度下,每项任务消耗了约 197,000 个输出 token。

其他已发布的测试也指向同一结论。在通过 OpenRouter、使用默认推理强度运行的 Plotly 数据分析基准测试中,Terra 得分为 40/43,每次完整运行费用为 $1.31;Sol 得分为 43/43,费用为 $2.61,每道题约生成 1,460 个输出 token。OpenAI 自行发布的启动图表属于自报数据,本文所用数据由 Kingy AI 转录:在 OSWorld 2.1 离线测试集上,Terra 的 max 推理强度单任务成本为 $1.19,Sol 则为 $1.15。在代理任务中,如果推理强度设为 max,Terra 的单 token 价格优势可能不复存在。

哪些用户的账单会高于预期

  • 默认使用 max 推理强度的团队。相同流量下,账单可能达到 medium 档的五倍。Reddit 上的 Codex 用户称,Terra 在 high 推理强度下会很快耗尽套餐限额;一位用户表示,五小时限额的 40% 在 20 分钟内就用完了。这些只是个别反馈,但与上文的 token 数量相符。
  • 接近 272K 的长上下文 RAG。检索步骤有时只需多添加几个内容块,就会让一些请求超过分界线,而这些请求的成本大约会翻倍。
  • 混合使用 Chat Completions 和 Responses 的流量。在 AIHubMix 上,这两个路由使用独立缓存,因此相同的前缀会被写入两次,而且 Chat 路由上的推理强度设置不会产生明显效果。

降低账单的做法

1. 按工作负载设置推理强度,而不是按账户统一设置。从 Terra 的默认设置 medium 开始,并在提取、分类和格式整理等简单任务上测试 low 或 none。使用自己的提示词同时衡量质量与成本,因为在 Artificial Analysis 的测试中,none 并不比 medium 便宜。只有在 medium 下无法完成任务时,才使用 high 或 max。

2. 将稳定前缀放在最前面,并固定使用同一路由。每次请求都以相同顺序放入系统提示词、工具定义和参考资料,再将所有变化内容(用户输入、时间戳、检索到的内容块)放在后面。前缀至少需要 1,024 个 token 才能缓存。将工作负载发送到同一个路由;在 AIHubMix 上,请使用能够应用推理强度设置的 Responses。

3. 使用显式模式,避免为不会复用的内容付写入费。将 prompt_cache_options.mode 设为 "explicit" 后,只有你标记的断点会被写入缓存。最后一个断点之后的内容按普通输入费率计费,不收取写入费,适合用户问题等每次请求都不同的内容。显式模式下如果没有设置断点,就完全不会缓存;AIHubMix 的测试也确认,此类请求没有写入任何内容。

4. 用具体计算来选择缓存有效期。每百万个前缀 token,30 分钟写入费为 $1.25,12 小时写入费为 $2.50;两种情况下读取费都是 $0.05。如果流量间隔较长,导致在 12 小时内使用 30 分钟缓存时需要写入该前缀三次或更多次(费用至少为 $3.75),那么写入一次 12 小时缓存更划算。写入两次($2.50)时两者费用持平。如果流量稳定,能让 30 分钟缓存条目持续有效,就继续使用 30 分钟缓存。AIHubMix 的测试确认,12 小时设置在 Terra 上可用:首次调用时,9,020-token 前缀被写入为 ttl_12h_tokens,第二次调用读取了其中的 9,007 个 token。

5. 将输入控制在 272K 以内。按 token 预算限制检索内容,而不要按分块数量限制;删除过时的对话轮次,并在长历史记录越过界限前进行摘要。OpenAI 还为长上下文记录提供了压缩功能,但 AIHubMix 尚未在 Terra 上测试该功能。

6. 通过 configuration_update 调整推理强度,而不要修改请求字段。OpenAI 的 GPT-6 模型指南建议保持请求级推理强度不变,并添加 configuration_update 输入项,在对话过程中提高或降低推理强度。AIHubMix 在 10 月 27 日的测试中确认,Terra 接受 configuration_update 项(200)。

7. 记录每个响应中的用量字段。能解释 Terra 账单的字段包括 input_tokens_details.cached_tokens(计费的缓存读取量)、cache_write_tokens 及其 ttl_30m_tokens 和 ttl_12h_tokens 分类,以及 output_tokens_details.reasoning_tokens。将缓存 token 总数除以输入 token 总数,即可得出缓存命中率;可以按日期或功能分组统计。

用 Python 记录每次请求的费用

示例使用 OpenAI SDK 调用 AIHubMix 的 Responses 端点。它会设置推理强度,通过 extra_body 传入 prompt_cache_options,并按标准费率估算费用后打印用量字段。设置步骤见 AIHubMix 的Responses API 文档,网关上的缓存行为见AIHubMix 缓存文档。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
)

# Keep this identical across requests so it can be cached (1,024+ tokens).
STABLE_PREFIX = open("support_rules.txt").read()

# Terra standard rates, USD per 1M tokens, input up to 272K.
PRICE = {"input": 1.00, "cached": 0.05, "write_30m": 1.25,
         "write_12h": 2.50, "output": 5.00}

resp = client.responses.create(
    model="gpt-6.1-terra",
    reasoning={"effort": "low"},  # none, low, medium, high, xhigh, max
    input=[
        {"role": "developer", "content": STABLE_PREFIX},
        {"role": "user", "content": "Classify this ticket: refund not received."},
    ],
    extra_body={"prompt_cache_options": {"ttl": "30m"}},  # or "12h"
)

u = resp.usage.model_dump()
inp = u["input_tokens_details"]
cached = inp.get("cached_tokens", 0)
writes = inp.get("cache_write_tokens", 0)
by_ttl = inp.get("cache_write_tokens_details") or {}
w12 = by_ttl.get("ttl_12h_tokens", 0)
w30 = writes - w12
ordinary = u["input_tokens"] - cached - writes
reasoning = u["output_tokens_details"].get("reasoning_tokens", 0)

cost = (ordinary * PRICE["input"] + cached * PRICE["cached"]
        + w30 * PRICE["write_30m"] + w12 * PRICE["write_12h"]
        + u["output_tokens"] * PRICE["output"]) / 1_000_000

print(f"input={u['input_tokens']} cached={cached} writes={writes} (12h={w12})")
print(f"output={u['output_tokens']} reasoning={reasoning}")
print(f"estimated cost=${cost:.6f}")

计算公式遵循 OpenAI 的缓存指南:普通输入量等于 input_tokens 减去 cached_tokens 和 cache_write_tokens;写入总量不应在其组成部分之外再次累加。输入 token 超过 272,000 时,应改用长上下文费率(输入 $2、缓存读取 $0.10、30 分钟写入 $2.50、12 小时写入 $5、输出 $7.50)。在 30 分钟内发送两次相同前缀,第二个响应应在 cached_tokens 中显示该前缀;若没有,说明前缀中的某些内容发生了变化。

常见问题

在 AIHubMix 上使用 GPT-6.1 Terra 比在 OpenAI 上更便宜吗?
不是。AIHubMix 列出的标准费率相同:每百万 token 的输入费为 $1、缓存读取费为 $0.05、输出费为 $5。AIHubMix 没有公布 Terra 的缓存写入费或长上下文费率,因此在用量日志确认网关的实际计费方式之前,$1.25 和 $2.50 的写入费率以及超过 272K 后的 2 倍费率都应视为 OpenAI 的条款。

通过 AIHubMix 可以享受 Batch 或 Flex 折扣吗?
目前没有经过确认的选项。50% 的 Batch 和 Flex 折扣属于 OpenAI,且 AIHubMix 不提供 OpenAI 的 Batch API。AIHubMix 的测试中,Flex 请求得到了接受,但 AIHubMix 的价格表对 Terra 只列出了标准费率,因此在将更低价格计入预算前,请先检查用量日志。

推理 token 会产生额外费用吗?
推理 token 作为 output_tokens 的一部分,按输出费率计费,即每百万 token $5。用量对象会将其作为 reasoning_tokens 单独报告,让你了解输出中有多少用于思考。

输入为 280,000 个 token 的请求会怎样计费?
整个请求都按长上下文费率计费:每百万 token 的输入费为 $2、缓存费为 $0.10、输出费为 $7.50,而不只是超过界限的 8,000 个 token。

12 小时缓存值得用吗?
只有当 30 分钟缓存条目在 12 小时内原本需要写入三次或更多次时才值得。每百万 token 的 12 小时写入费为 $2.50,30 分钟写入费为 $1.25;两者的读取费都是 $0.05。

为什么 max 推理强度的费用高出这么多?
Artificial Analysis 测得,max 推理强度下每项任务大约生成 35,000 个输出 token,而 medium 下为 6,000 个;每项任务的费用从 $0.10 升至 $0.40。在上文的计算示例中,从 medium 切换到 max,月费会从 $91.25 升至 $453.75。

Terra 的价格总是 Sol 的一半吗?
按 token 计算,是的。但按任务计算则不一定:在 Artificial Analysis 的测试中,max 推理强度下 Terra 的每项任务费用与 xhigh 推理强度下 Sol 大致相当,而 Sol 的得分更高。

继续阅读:GPT-6.1 Terra 系列

来源

一个网关接入多家 AI 服务商, 为生产环境而生。

访问推理时代官网