GPT-6.1 Terra의 실제 비용: 추론 강도, 272K 기준선, 캐싱

GPT-6.1 Terra는 2026년 10월 26일에 입력 토큰 100만 개당 $1, 출력 토큰 100만 개당 $5로 출시되었습니다. 이는 GPT-5.6 Terra의 입력 가격의 절반이며, 출력 가격 $12의 절반보다도 훨씬 낮습니다. 하지만 정가는 시작에 불과합니다. Terra 워크로드의 실제 청구액을 좌우하는 요소는 세 가지입니다.

• 추론 강도. 추론 토큰은 출력으로 청구되며, 강도 수준에 따른 비용 차이는 몇 배에 달합니다.
• 272K 기준선. 요청의 입력 토큰이 272,000개를 넘으면 요청 전체에 더 높은 요율이 적용됩니다.
• 캐싱. 캐시된 프리픽스는 일반 입력 가격의 5%이며, 캐시에 적중하지 않거나 다시 작성되는 프리픽스는 정가 이상으로 청구됩니다.

아래에서는 가정을 모두 밝힌 워크로드 하나의 가격을 계산하고, 놓치기 쉬운 청구 규칙을 살펴본 다음, GPT-6.1 Sol, Claude Sonnet 5.5, GPT-5.6 Terra와 작업당 비용을 비교합니다. 청구서의 근거가 되는 사용량 필드를 기록하는 Python 예제도 제공합니다. AIHubMix에서 Terra는 OpenAI와 동일한 가격으로 gpt-6.1-terra라는 이름으로 제공됩니다.

가격표

가격은 모두 토큰 100만 개당 USD 기준이며, OpenAI 모델 페이지를 기준으로 했습니다. AIHubMix 모델 페이지에도 일반 입력, 캐시 읽기, 출력 가격은 동일하게 나와 있지만, 캐시 쓰기나 긴 컨텍스트 요율은 없습니다. 캐싱 문서에는 1.25배의 단일 쓰기 요율만 안내되어 있어 12시간 프리미엄 요율은 게시되어 있지 않습니다.

OpenAI는 요율 한 세트를 표시하고, 나머지는 규칙으로 설명합니다. 입력 토큰이 272K를 초과하면 입력 및 캐시 요율은 두 배, 출력 요율은 1.5배가 되며 이 요율은 요청 전체에 적용됩니다. 따라서 12시간 캐시 쓰기 요율은 $5.00입니다. AIHubMix는 Terra의 긴 컨텍스트 요율을 게시하지 않았으므로, 272K 초과 시 게이트웨이가 얼마를 청구하는지는 확인되지 않았습니다.

OpenAI는 Batch 및 Flex 처리에 50% 할인, Fast 모드에 2배 요율, 지역 처리에 10% 할증도 제공합니다. 이는 OpenAI의 조건입니다. AIHubMix는 OpenAI의 Batch API를 제공하지 않습니다(AIHubMix에서 10월 27일 확인한 결과 GET /v1/batches는 404를 반환했습니다). 같은 확인 과정에서 service_tier "flex"는 허용되어 "flex"로 응답했고, "priority"도 허용되어 "fast"로 응답했습니다. OpenAI의 조건에 따르면 "fast"는 요율이 2배인 Fast 모드입니다. AIHubMix의 Terra 가격표에는 표준 요율만 나와 있으므로 어느 쪽도 실제 청구 요율은 확인되지 않았습니다. 할인이 적용된다고 가정하지 말고 사용량 로그를 확인하세요.

이후 비교에 사용할 모델의 공식 가격은 다음과 같습니다(AIHubMix에서도 동일).

놓치기 쉬운 청구 규칙

추론 토큰은 출력 토큰으로 계산됩니다. 눈에 보이는 토큰 2,000개를 반환하더라도 추론 토큰이 8,000개라면 출력 토큰 10,000개로 청구됩니다. 답변 길이가 아니라 usage 객체에서 비용을 확인하세요.

272K 기준선을 넘으면 요청 전체의 요율이 바뀝니다. 272,000개를 초과한 토큰에만 한계 요율이 적용되는 것이 아닙니다. 요청의 모든 입력 토큰은 두 배, 모든 출력 토큰은 50% 인상된 요율로 청구됩니다. 캐싱은 적용하지 않고 두 경우 모두 출력 토큰을 20,000개로 가정했을 때 경계에서의 계산은 다음과 같습니다.

입력이 11% 늘면 청구액은 대략 두 배가 됩니다. Terra는 입력 토큰 최대 922,000개(컨텍스트 1,050,000개)까지 지원하지만, 272K를 넘으면 요율이 더 높아집니다.

캐시 쓰기에도 비용이 듭니다. GPT-5.6 이상 모델에서 프리픽스를 캐시에 쓰면 기본 30분 유지 시간에는 입력 요율의 1.25배, 12시간 유지 시간에는 2.5배가 청구됩니다. 12시간 유지는 Responses API에서만 사용할 수 있습니다. Terra의 캐시 읽기 비용은 유지 시간과 관계없이 0.05배입니다. OpenAI의 프롬프트 캐싱 가이드에 따르면 이는 추가 요금이 아니라 총 요율입니다. 각 입력 토큰은 일반 입력, 읽기 또는 쓰기 중 하나로 한 번만 청구됩니다. 캐시할 수 있는 프리픽스의 최소 길이는 1,024개 토큰입니다.

AIHubMix에서는 Chat Completions와 Responses가 캐시를 공유하지 않습니다. AIHubMix에서 확인한 결과, 9,623개 토큰으로 구성된 개발자 프리픽스는 첫 번째 Responses 호출에서 캐시에 기록되고, 두 번째와 세 번째 호출에서 읽혔습니다. 바로 이어서 같은 프리픽스를 Chat Completions로 보내자 적중 없이 다시 기록됐습니다. 두 API를 섞어 쓰는 트래픽은 캐시 쓰기 비용을 두 번 부담합니다.

AIHubMix에서는 Responses를 통해서만 추론 강도 설정이 적용됩니다. Responses API에서 소수 합 프롬프트를 실행한 결과, 추론 강도를 none으로 설정하면 출력 토큰이 72개, max로 설정하면 1,153개였으며 그중 1,078개가 추론 토큰이었습니다. 같은 테스트에서 Chat Completions의 reasoning_effort 설정은 일관된 차이를 만들지 못했습니다(none과 max 모두 실행마다 추론 토큰이 약 200~300개였습니다). 이는 해당 경로가 고정된 추론 강도로 실행됨을 시사합니다. 낮은 추론 강도로 비용을 절감하려면 해당 요청을 Responses로 보내세요.

내장 웹 검색은 호출당 요금이 청구됩니다. AIHubMix는 토큰 비용 외에 web_search_requests를 호출당 $0.01로 책정합니다.

현실적인 한 달 비용, 항목별 계산

Responses API를 통해 한 달에 10,000건의 요청을 보내는 고객 지원 또는 문서 처리 워크로드를 가정해 보겠습니다. 가정은 다음과 같습니다.

• 요청마다 캐시에 적중하는 안정적인 프리픽스(시스템 프롬프트, 도구 정의, 참조 규칙)가 2,500개 토큰 포함됩니다.
• 요청마다 새로운 입력(사용자 메시지 또는 문서)이 1,500개 토큰 추가됩니다.
• 요청마다 중간 추론 강도(Terra의 기본값)로 추론 토큰을 포함해 출력 토큰 1,500개를 반환합니다.
• 모든 요청의 입력이 272K 미만이므로 표준 요율이 적용됩니다.
• 총액 계산에는 캐시 쓰기 비용을 포함하지 않습니다(표 아래 참고).

한 달 동안 캐시된 토큰은 25M, 새 입력 토큰은 15M, 출력 토큰은 15M입니다.

이 경우 캐시 쓰기 비용은 크지 않습니다. 2,500개 토큰 프리픽스를 쓸 때마다 해당 토큰에는 백만 개당 $0.05가 아닌 $1.25가 적용되므로 쓰기 한 번당 추가 비용은 약 $0.003입니다.

두 가지 변형 사례를 보면 비용이 어디에 드는지 알 수 있습니다.

캐싱을 사용하지 않는 경우. 프리픽스가 한 번도 적중하지 않으면(요청마다 바뀌거나 트래픽이 여러 경로에 분산되는 경우) 입력 토큰 40M 전체에 $1 요율이 적용됩니다. 입력 비용 $40에 출력 비용 $75를 더해 총액은 $115입니다. 캐싱을 사용하면 한 달에 $23.75, 즉 청구액의 약 5분의 1을 절감합니다.

최대 추론 강도를 사용하는 경우. Artificial Analysis의 Intelligence Index 측정에서 작업당 출력 토큰은 중간 추론 강도에서 약 6,000개, 최대 추론 강도에서 35,000개로 약 5.8배 차이가 났습니다. 출력 토큰 1,500개에 35/6을 곱하면 요청당 8,750개, 한 달 기준 87.5M개입니다. 따라서 출력 비용은 87.5M x $5 = $437.50이고, 한 달 총액은 $1.25 + $15.00 + $437.50 = $453.75로 중간 강도 청구액의 약 5배입니다. 최대 추론 강도의 비용은 캐시를 놓쳤을 때보다 훨씬 큽니다.

어떤 경우든 출력 항목이 가장 큰 비중을 차지합니다. 중간 추론 강도에서는 총 $91.25 중 $75, 즉 청구액의 82%가 출력 비용입니다. 따라서 가장 먼저 살펴볼 설정은 입력 가격이 아니라 추론 강도입니다.

Sol, Sonnet 5.5, GPT-5.6 Terra와 작업당 비용 비교

같은 워크로드와 토큰 수(캐시된 토큰 25M, 새 입력 토큰 15M, 출력 토큰 15M)를 사용하고, 각 모델에는 해당 모델의 공식 가격을 적용했습니다.

토큰 수가 같다면 Terra의 비용은 Sol과 Sonnet 5.5의 절반, GPT-5.6 Terra의 약 42%입니다. 다만 토큰 수를 같게 놓았다는 점이 중요합니다. 같은 작업에서도 모델마다 사용하는 추론 토큰 수가 다르며, 추론 강도를 높인 Terra는 추론 강도가 낮은 Sol보다 토큰을 더 많이 쓸 수 있습니다.

실측 작업당 비용은 이를 잘 보여줍니다. 아래 수치는 각 모델을 표시된 추론 강도로 Intelligence Index에서 테스트한 독립 벤치마크인 Artificial Analysis에서 가져왔습니다.

Sonnet 5.5의 행은 Artificial Analysis의 기본 최대 추론 강도 설정을 나타냅니다.

이 표에서 세 가지를 알 수 있습니다. Terra의 중간 추론 강도는 가장 저렴한 항목이며, Artificial Analysis는 Terra의 낮음 및 중간 추론 강도를 파레토 최적이라고 평가합니다. 이번 측정에서는 추론을 끄더라도 비용이 줄지 않았습니다. 추론 없음의 작업당 비용은 $0.11이었고 점수는 33점이었습니다. 반대로 Terra의 최대 추론 강도($0.40)는 Sol의 xhigh($0.39)와 비용이 거의 같지만 점수는 더 낮고, 거의 두 배의 비용을 내고도 Sol의 중간 강도 점수와 비슷한 수준에 그쳤습니다. Sonnet 5.5가 가장 높은 점수를 기록했지만, 최대 추론 강도에서 작업당 출력 토큰을 약 197,000개 사용했습니다.

다른 공개 테스트에서도 같은 양상이 나타납니다. OpenRouter를 통해 기본 추론 강도로 실행한 Plotly 데이터 분석 벤치마크에서 Terra는 43문항 중 40문항을 맞혀 전체 실행에 $1.31이 들었습니다. Sol은 43문항 모두를 맞혔고 비용은 $2.61이었으며, 질문당 출력 토큰은 약 1,460개였습니다. 자체 보고 자료인 OpenAI의 출시 차트는 Kingy AI가 옮겨 적은 내용을 보면, OSWorld 2.1 오프라인 세트에서 Terra의 최대 추론 강도 작업 비용은 $1.19, Sol은 $1.15였습니다. 에이전트 작업에서 최대 추론 강도를 사용하면 Terra의 토큰당 가격 우위가 사라질 수 있습니다.

예상보다 더 많이 내는 사용자는 누구인가

• 기본 설정으로 최대 추론 강도를 사용하는 팀. 같은 트래픽에서도 청구액이 중간 추론 강도보다 다섯 배까지 늘어날 수 있습니다. Reddit의 Codex 사용자들은 높은 추론 강도에서 Terra가 사용량 한도를 빠르게 소진한다고 보고했습니다. 한 사용자는 5시간 한도의 40%가 20분 만에 사라졌다고 했습니다. 일화적인 사례이긴 하지만, 위의 토큰 수와 일치하는 내용입니다.
• 272K에 근접한 긴 컨텍스트 RAG. 검색 단계에서 청크가 몇 개만 더 추가되더라도 일부 요청은 기준선을 넘어 비용이 대략 두 배로 늘어날 수 있습니다.
• Chat Completions와 Responses 트래픽을 혼용하는 경우. AIHubMix에서는 두 경로가 캐시를 별도로 유지하므로 같은 프리픽스가 두 번 기록되며, Chat 경로에서는 추론 강도 설정이 눈에 띄는 영향을 주지 않습니다.

청구액을 줄이는 방법

1. 계정 전체가 아니라 워크로드별로 추론 강도를 설정하세요. Terra의 기본값인 중간에서 시작해 추출, 분류, 서식 지정 같은 간단한 작업에는 낮음 또는 없음도 테스트해 보세요. Artificial Analysis의 측정에서는 추론 없음이 중간보다 저렴하지 않았으므로, 자체 프롬프트로 품질과 비용을 모두 측정하세요. 중간 강도에서 실패하는 요청에만 높음과 최대를 사용하세요.

2. 안정적인 프리픽스를 앞에 두고 경로를 고정하세요. 시스템 프롬프트, 도구 정의, 참조 자료를 모든 요청의 맨 앞에 같은 순서로 배치하고, 달라지는 내용(사용자 입력, 타임스탬프, 검색된 청크)은 그 뒤에 두세요. 캐시하려면 프리픽스가 최소 1,024개 토큰이어야 합니다. 워크로드는 한 경로로 보내세요. AIHubMix에서는 추론 강도 설정이 적용되는 Responses를 사용하세요.

3. 명시적 모드를 사용해 재사용하지 않을 쓰기 비용을 피하세요. prompt_cache_options.mode를 "explicit"으로 설정하면 직접 지정한 경계점만 기록됩니다. 마지막 경계점 이후의 콘텐츠에는 일반 입력 요금이 적용되며 쓰기 요금은 부과되지 않으므로, 사용자의 질문처럼 요청마다 달라지는 자료에 적합합니다. 경계점을 지정하지 않고 명시적 모드를 사용하면 캐싱이 전혀 이루어지지 않으며, AIHubMix의 확인 결과 해당 요청은 아무것도 기록하지 않았습니다.

4. 계산을 바탕으로 캐시 수명을 선택하세요. 프리픽스 토큰 100만 개당 30분 쓰기 비용은 $1.25, 12시간 쓰기 비용은 $2.50이며, 읽기 비용은 어느 쪽이든 $0.05입니다. 트래픽 간격 때문에 30분 캐시를 사용할 경우 12시간 동안 프리픽스가 세 번 이상 기록된다면($3.75 이상) 12시간 쓰기 한 번이 더 저렴합니다. 두 번 기록되는 경우($2.50)에는 비용이 같습니다. 트래픽이 꾸준해 30분 항목이 유지된다면 30분 설정을 사용하세요. AIHubMix의 확인 결과 Terra에서 12시간 설정이 작동했습니다. 첫 호출에서 9,020토큰 프리픽스가 ttl_12h_tokens로 기록됐고, 두 번째 호출에서는 해당 토큰 중 9,007개를 읽었습니다.

5. 입력 토큰을 272K 미만으로 유지하세요. 청크 수가 아니라 토큰 예산을 기준으로 검색 결과를 제한하고, 오래된 대화 내용을 제거하며, 긴 대화 기록이 한도에 도달하기 전에 요약하세요. OpenAI는 긴 컨텍스트를 위한 압축 기능도 문서화했지만, AIHubMix는 Terra에서 이를 확인하지 않았습니다.

6. 요청 필드가 아니라 configuration_update로 추론 수준을 변경하세요. OpenAI의 GPT-6 모델 가이드는 요청 수준의 추론 수준을 고정하고, 대화 중간에 추론 수준을 높이거나 낮추려면 configuration_update 입력 항목을 추가할 것을 권장합니다. AIHubMix는 10월 27일 확인에서 Terra의 configuration_update 항목을 수락했습니다(200).

7. 모든 응답의 사용량 필드를 기록하세요. Terra 청구액을 파악하는 데 필요한 필드는 input_tokens_details.cached_tokens(청구되는 읽기 토큰), cache_write_tokens와 그 세부 항목인 ttl_30m_tokens 및 ttl_12h_tokens, 그리고 output_tokens_details.reasoning_tokens입니다. 캐시 적중률은 전체 캐시 토큰을 전체 입력 토큰으로 나누어 계산하고, 날짜별 또는 기능별로 그룹화하세요.

Python에서 요청별 비용 기록하기

이 예제는 AIHubMix의 Responses 엔드포인트에 OpenAI SDK를 사용합니다. 추론 수준을 설정하고, extra_body를 통해 prompt_cache_options를 전달하며, 표준 요금으로 추정한 비용과 사용량 필드를 출력합니다. 설정 단계는 AIHubMix의 Responses API 문서에서 확인할 수 있으며, 게이트웨이의 캐싱 동작은 AIHubMix 캐싱 문서에 설명되어 있습니다.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
)

# Keep this identical across requests so it can be cached (1,024+ tokens).
STABLE_PREFIX = open("support_rules.txt").read()

# Terra standard rates, USD per 1M tokens, input up to 272K.
PRICE = {"input": 1.00, "cached": 0.05, "write_30m": 1.25,
         "write_12h": 2.50, "output": 5.00}

resp = client.responses.create(
    model="gpt-6.1-terra",
    reasoning={"effort": "low"},  # none, low, medium, high, xhigh, max
    input=[
        {"role": "developer", "content": STABLE_PREFIX},
        {"role": "user", "content": "Classify this ticket: refund not received."},
    ],
    extra_body={"prompt_cache_options": {"ttl": "30m"}},  # or "12h"
)

u = resp.usage.model_dump()
inp = u["input_tokens_details"]
cached = inp.get("cached_tokens", 0)
writes = inp.get("cache_write_tokens", 0)
by_ttl = inp.get("cache_write_tokens_details") or {}
w12 = by_ttl.get("ttl_12h_tokens", 0)
w30 = writes - w12
ordinary = u["input_tokens"] - cached - writes
reasoning = u["output_tokens_details"].get("reasoning_tokens", 0)

cost = (ordinary * PRICE["input"] + cached * PRICE["cached"]
        + w30 * PRICE["write_30m"] + w12 * PRICE["write_12h"]
        + u["output_tokens"] * PRICE["output"]) / 1_000_000

print(f"input={u['input_tokens']} cached={cached} writes={writes} (12h={w12})")
print(f"output={u['output_tokens']} reasoning={reasoning}")
print(f"estimated cost=${cost:.6f}")

계산식은 OpenAI의 캐싱 가이드를 따릅니다. 일반 입력 토큰은 input_tokens에서 cached_tokens와 cache_write_tokens를 뺀 값이며, 쓰기 총액은 세부 항목에 더해 다시 합산하지 않습니다. 입력 토큰이 272,000개를 넘으면 장문 컨텍스트 요금($2, $0.10, 30분 쓰기 $2.50, 12시간 쓰기 $5, 출력 $7.50)을 적용하세요. 동일한 프리픽스를 30분 이내에 두 번 보내면 두 번째 응답에 해당 프리픽스가 cached_tokens로 표시되어야 합니다. 그렇지 않다면 프리픽스의 일부가 달라진 것입니다.

FAQ

AIHubMix에서 GPT-6.1 Terra를 사용하면 OpenAI보다 저렴한가요?
아니요. AIHubMix는 표준 요금을 동일하게 게시합니다. 토큰 100만 개당 입력 $1, 캐시 읽기 $0.05, 출력 $5입니다. AIHubMix는 Terra의 캐시 쓰기 요금이나 장문 컨텍스트 요금을 공개하지 않았으므로, 사용량 로그에서 게이트웨이 청구액을 확인하기 전까지는 쓰기 요금 $1.25 및 $2.50과 272K 초과 시 2배 요금이 OpenAI의 조건입니다.

AIHubMix에서도 Batch 또는 Flex 할인을 받을 수 있나요?
확인된 옵션으로는 제공되지 않습니다. Batch와 Flex의 50% 할인은 OpenAI의 할인이고, AIHubMix는 OpenAI의 Batch API를 제공하지 않습니다. AIHubMix 확인 과정에서 Flex 요청은 수락됐지만, AIHubMix의 가격표에는 Terra의 표준 요금만 나와 있습니다. 따라서 더 저렴한 요금을 기대하기 전에 사용량 로그를 확인하세요.

추론 토큰은 추가 비용이 드나요?
출력 토큰의 일부로 출력 요금인 100만 개당 $5가 부과됩니다. 사용량 객체에는 추론 토큰이 reasoning_tokens로 별도 표시되므로 출력 중 얼마나 많은 부분이 추론에 사용됐는지 확인할 수 있습니다.

입력 토큰이 280,000개인 요청은 어떻게 청구되나요?
요청 전체에 장문 컨텍스트 요금이 적용됩니다. 입력은 100만 개당 $2, 캐시된 입력은 $0.10, 출력은 $7.50입니다. 한도를 초과한 8,000개 토큰에만 적용되는 것이 아닙니다.

12시간 캐시를 사용하는 것이 이득인가요?
30분 캐시 항목이 12시간 동안 세 번 이상 기록될 상황일 때만 그렇습니다. 12시간 쓰기는 토큰 100만 개당 $2.50으로, 30분 쓰기 비용인 $1.25보다 비싸며 읽기 비용은 어느 쪽이든 $0.05입니다.

최대 추론 수준은 왜 훨씬 더 비싼가요?
Artificial Analysis의 측정 결과, 작업당 출력 토큰은 최대 수준에서 약 35,000개, 중간 수준에서 6,000개였으며 작업당 비용은 $0.10에서 $0.40으로 올랐습니다. 앞서 든 계산 예시에서는 중간 수준에서 최대 수준으로 바꾸면 월 비용이 $91.25에서 $453.75로 증가합니다.

Terra는 항상 Sol보다 절반 가격인가요?
토큰당 가격은 그렇습니다. 하지만 작업당 비용은 항상 그런 것은 아닙니다. Artificial Analysis의 테스트에서 최대 수준의 Terra는 작업당 비용이 xhigh 수준의 Sol과 비슷했고, Sol이 더 높은 점수를 받았습니다.

계속 읽기: GPT-6.1 Terra 시리즈

• 대체되는 모델과 비교해 절반 가격으로 무엇을 얻을 수 있는지 알아보려면: GPT-6.1 Terra vs GPT-5.6 Terra: 가격은 절반, 무엇이 달라졌고 누가 전환해야 할까
• 추론 설정과 캐싱을 제대로 활용할 수 있도록 트래픽을 Responses로 옮기기 전에: GPT-6.1 Terra로 마이그레이션하기: temperature 400 오류 수정, 도구를 Responses로 이전하고 Codex 설정하기
• 토큰 가격이 두 배인 경쟁 모델과 Terra 중에서 고민 중이라면: GPT-6.1 Terra vs Claude Sonnet 5.5: 화면 및 문서 에이전트에 적합한 미드티어 모델은?
• 최대 추론 수준의 Terra가 작업당 Sol만큼 비용이 들 때: GPT-6.1 Terra vs GPT-6.1 Sol: 어떤 작업에 여전히 Sol이 필요할까?

출처

• OpenAI, GPT-6.1 Terra 모델 페이지: 가격, 장문 컨텍스트 규칙, 컨텍스트 한도, 추론 수준.
• OpenAI, 프롬프트 캐싱 가이드: 쓰기 및 읽기 요금, 캐시 수명, 명시적 모드, 사용량 필드.
• AIHubMix, GPT-6.1 Terra 모델 페이지: AIHubMix의 가격 및 이용 방법.
• Artificial Analysis, GPT-6.1 Terra, 비용 효율성의 한계를 넓히다: 추론 수준별 작업 비용 및 작업당 출력 토큰.
• Kingy AI, GPT-6.1 Terra: 벤치마크, 가격, 사양 및 비교: 가격 등급, 272K 경계 사례, OpenAI 차트에서 옮긴 수치.