GPT-5.6 출시: 프롬프트 캐싱 과금 변경 사항 정리

OpenAI가 2026년 7월 9일 GPT-5.6 제품군을 정식 출시했습니다. AIHubMix는 세 가지 티어를 모두 통합 완료했으며, gpt-5.6-sol, gpt-5.6-terra, gpt-5.6-luna 모두 Chat Completions와 Responses를 통해 이용할 수 있습니다. 이번 출시에서는 프롬프트 캐싱 메커니즘과 과금 방식도 바뀌었습니다. 캐시 쓰기 비용이 이제 별도로 청구됩니다. 이 글에서는 세 티어의 포지셔닝을 설명하고, 캐싱 변경 사항을 항목별로 살펴봅니다.

GPT-5.6 세 티어의 변화

GPT-5.6은 네이밍 체계를 개편했습니다. 숫자는 모델 세대를 나타내고, Sol, Terra, Luna는 독립적으로 발전할 수 있는 역량 티어입니다. 공식 정의에 따르면 Sol은 플래그십 모델이고, Terra는 GPT-5.5에 필적하는 성능을 더 낮은 가격에 제공하는 티어이며, Luna는 가장 빠르고 가장 저렴한 티어입니다.

성능에 대한 공식 입장은 다음과 같습니다. Sol은 코딩, 지식 업무, 사이버보안, 과학 과제에서 최고 수준(state-of-the-art)의 결과를 기록했으며, OpenAI는 이를 현재까지 나온 최고의 코딩 모델이라고 소개하고 Terminal-Bench 2.1과 DeepSWE에서 신기록을 세웠다고 밝혔습니다. Terra는 절반의 가격으로 GPT-5.5와 같은 성능을 냅니다. 이 제품군에는 최대 추론 수준(max reasoning level)이 추가되었고, Responses API에는 Programmatic Tool Calling과 멀티 에이전트(베타) 기능이 추가되었습니다.

캐싱 메커니즘 업그레이드 설명

GPT-5.6 이전에는 GPT 모델의 프롬프트 캐싱이 완전히 자동이었습니다. 1,024 토큰 이상의 프리픽스는 자동으로 캐시되었고, 개발자는 무엇을 얼마나 오래 캐시할지 제어할 수 없었으며, 5–10분 동안 사용이 없으면 캐시가 삭제되었습니다. OpenAI는 GPT-5.6의 변경 사항을 "더 예측 가능한 프롬프트 캐싱"이라고 요약하며, 구체적으로 세 가지 포인트를 제시했습니다.

1. 보관 기간이 "최소 5분"에서 "최소 30분"으로 늘어났습니다. prompt_cache_options.ttl은 현재 "30m"만 지원합니다. 이는 보장되는 최소 기간이며, 실제 보관 시간은 더 길어질 수 있습니다.
2. 명시적 캐시 브레이크포인트가 새로 추가되었습니다. 콘텐츠 블록에 prompt_cache_breakpoint를 설정하면 안정적인 콘텐츠의 끝에 캐시 경계가 고정됩니다. 따라서 브레이크포인트 이후의 변경이 그 앞의 캐시된 프리픽스를 무효화하지 않습니다. prompt_cache_options.mode를 "explicit"으로 설정하면 수동 브레이크포인트만 사용됩니다.
3. prompt_cache_key가 선택적 최적화에서 공식 필수 요구 사항으로 바뀌었습니다. GPT-5.6부터는 캐시 매칭의 신뢰도를 높이기 위해 이 파라미터를 설정하는 것이 권장됩니다. OpenAI는 키별 트래픽을 분당 약 15 요청 수준으로 유지할 것을 권장합니다.

1.25x 캐시 쓰기 과금 평가 방법

GPT-5.6부터는 캐시 쓰기가 기본 입력 요율의 1.25x로, 캐시 읽기가 0.1x로 과금됩니다. 이전 모델에서는 캐시 쓰기에 추가 요금이 없었습니다. 공식 문구(GPT-5.6 발표문에서 인용)는 다음과 같습니다. "GPT-5.6 이후 모델에서 캐시 쓰기는 모델의 비캐시 입력 요율의 1.25x로 과금되며, 캐시 읽기는 여전히 90% 캐시 입력 할인을 받습니다."

손익분기점 계산은 공식 요율에서 바로 나옵니다. 프리픽스를 쓰는 데에는 캐싱을 하지 않을 때보다 입력 요율의 0.25x가 더 들고, 이후 적중할 때마다 입력 요율의 0.9x가 절약됩니다. 한 번이라도 재사용되는 프리픽스는 순이익을 냅니다. 재사용이 많을수록 절약 폭도 커집니다.

• 명확하게 이득을 보는 워크로드: 긴 시스템 프롬프트를 쓰는 에이전트 워크플로, 긴 참조 자료를 반복해서 포함하는 RAG, 큰 도구 정의를 싣는 애플리케이션, 메시지만 덧붙이는 멀티턴 대화. 이런 워크로드는 프리픽스 재사용률이 높아서 0.1x 읽기 요율이 비용을 크게 좌우합니다.
• 주의가 필요한 워크로드: 프리픽스가 재사용되지 않는 일회성 긴 요청. 자동 캐싱은 기본으로 켜져 있으므로 이런 요청은 회수할 수 없는 1.25x 쓰기 요금이 발생합니다. prompt_cache_options.mode를 "explicit"으로 설정하고 브레이크포인트를 전혀 지정하지 않으면, 요청이 캐시를 완전히 건너뛰어 쓰기 요금이 발생하지 않습니다.

비교: GPT-5.6과 Claude의 프롬프트 캐싱

GPT-5.6의 캐싱 설계는 여러 측면에서 Claude의 cache_control과 수렴합니다. 핵심 차이는 기본 동작에 있습니다. GPT는 파라미터 없이 자동으로 캐시하지만, Claude는 요청에서 캐싱을 활성화해야 합니다. 이는 최상위 cache_control 필드(자동 브레이크포인트)를 쓰거나 콘텐츠 블록 단위의 명시적 브레이크포인트를 지정하는 방식입니다.

Claude 열은 현재 활성 Claude 모델 모두에 공통으로 적용되는 규칙을 반영합니다. 5분 티어 쓰기는 1.25x, 1시간 티어 쓰기는 2x, 읽기는 0.1x이며 전 라인업에 동일하게 적용됩니다(Anthropic 프롬프트 캐싱 문서). 모델별 차이는 최소 캐시 가능 길이에만 있습니다. GPT-5.6 열은 OpenAI 프롬프트 캐싱 가이드에서 가져왔습니다.

브레이크포인트 한도, (해당 티어의) 쓰기 요율, 읽기 요율은 두 제공자 사이에서 정확히 일치합니다. 실무적으로는 "정적 콘텐츠를 앞에, 변동 콘텐츠를 뒤에" 두는 프롬프트 구조화 전략이 두 제공자에서 그대로 통합니다. 마이그레이션 비용은 주로 파라미터 문법에 집중됩니다. GPT는 prompt_cache_breakpoint + prompt_cache_key를 쓰고, Claude는 cache_control을 씁니다.

두 프로토콜에서 같은 캐싱 패턴

"긴 정적 지시문 캐싱"이라는 같은 시나리오에 대해, 두 프로토콜의 최소 구현 예시는 다음과 같습니다. 예시는 gpt-5.6-sol과 claude-opus-4-8를 사용합니다. 두 모델의 기본 입력 가격은 동일하게 $5/M이므로, 캐시 쓰기(1.25x)와 읽기(0.1x)로 도출되는 토큰당 실질 가격도 같습니다. 차이는 문법뿐입니다.

GPT 프로토콜은 최상위에 prompt_cache_key를 설정합니다(긴 프리픽스는 브레이크포인트 표시 없이 자동으로 캐시됨). Claude 프로토콜은 최상위에 cache_control을 설정해 자동 캐싱을 켜며, 캐시 경계를 정밀하게 제어해야 할 때는 콘텐츠 블록 단위 브레이크포인트로 전환합니다.

GPT-5.6(Chat Completions)

curl https://aihubmix.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -d '{
    "model": "gpt-5.6-sol",
    "prompt_cache_key": "my-app-report-v1",
    "messages": [
      {
        "role": "system",
        "content": "[Static long instructions, >=1024 tokens]"
      },
      {
        "role": "user",
        "content": "Summarize the key figures."
      }
    ]
  }'

Claude(Messages)

curl https://aihubmix.com/v1/messages \
  -H "Content-Type: application/json" \
  -H "x-api-key: $AIHUBMIX_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-opus-4-8",
    "max_tokens": 1024,
    "cache_control": {"type": "ephemeral"},
    "system": "[Static long instructions, >=1024 tokens]",
    "messages": [
      {
        "role": "user",
        "content": "Summarize the key figures."
      }
    ]
  }'

두 요청을 비교하면 차이는 다음으로 정리됩니다. 엔드포인트(/v1/chat/completions 대 /v1/messages), 인증 헤더(Authorization: Bearer 대 x-api-key + anthropic-version), 캐싱 파라미터(최상위 prompt_cache_key 대 최상위 cache_control), 그리고 Claude는 명시적인 max_tokens가 필요하다는 점입니다. 두 요청은 모두 aihubmix.com에서 검증했습니다(2026-07-10). gpt-5.6-sol은 두 번째 호출에서 cached_tokens: 2816을 반환했습니다. claude-opus-4-8은 첫 호출에서 cache_creation_input_tokens: 3632, 두 번째 호출에서 cache_read_input_tokens: 3632을 반환했습니다.

요청 형식 외에도, 메커니즘 수준에서 세 가지 차이가 남아 있습니다.

1. 활성화: GPT는 캐싱 파라미터가 없어도 자동으로 캐시하며, prompt_cache_key는 적중 신뢰도를 높이는 역할을 합니다. Claude는 선언이 필요합니다. 콘텐츠 블록 단위 cache_control 브레이크포인트를 쓰거나, 최상위 cache_control의 자동 모드를 쓰면 됩니다.
2. 사용량 필드: GPT는 캐시 읽기를 prompt_tokens_details.cached_tokens에 보고합니다. Claude는 쓰기와 읽기를 각각 cache_creation_input_tokens와 cache_read_input_tokens로 나눠 보고하므로, 쓰기와 적중을 독립적으로 검증하기 쉽습니다.
3. 수명 제어: GPT-5.6의 ttl은 현재 "30m"만 지원합니다. Claude는 기본 5분(적중할 때마다 추가 비용 없이 갱신)이며, 선택적으로 "ttl": "1h"를 쓸 수 있습니다(쓰기 과금 2x).

프로토콜을 넘어 모델을 교체할 때 바꿀 것

AIHubMix 게이트웨이는 프로토콜 간 호출을 지원합니다. OpenAI 호환 엔드포인트로 Claude 모델을 호출할 수 있고(cache_control은 OpenAI 형식 메시지 콘텐츠 블록에 직접 넣습니다. Prompt Caching 실전 가이드 참고), Claude 호환 /v1/messages 엔드포인트로 GPT-5.6을 호출할 수 있습니다(동작 확인 완료). 모델을 교체할 때는 세 가지를 확인하세요.

• 대상 모델 ID로 model을 바꿉니다.
• 캐싱 파라미터 문법을 전환합니다. prompt_cache_key/명시적 브레이크포인트는 Claude의 cache_control에 대응합니다.
• 사용량 필드 이름을 전환합니다. cached_tokens는 Claude의 cache_read_input_tokens에 대응합니다.

프롬프트 캐싱의 권장 경로: GPT 모델은 Chat Completions를 통해 사용합니다(이 글에서 캐시 적중을 검증한 경로). Claude 모델은 두 프로토콜 중 어느 쪽으로도 사용할 수 있습니다.

비교: GPT-5.6과 이전 GPT 캐싱

변경 사항은 한 방향을 가리킵니다. 이전 세대의 캐싱은 쓰기 수수료가 없었지만 제어할 수 없었고 보존 기간도 불확실했습니다. GPT-5.6은 쓰기 비용을 청구하는 대신 보장된 최소 보존 기간과 정밀한 캐시 제어 기능을 제공합니다. 요금을 기준으로 보면, 평균적으로 두 번 이상 재사용되는 프리픽스는 추가된 쓰기 비용보다 더 많이 절약됩니다. 30분의 최소 보존 기간과 제어 가능한 브레이크포인트 덕분에 이런 재사용률을 달성하기가 더 예측 가능해집니다.

AIHubMix에서 시작하기

세 가지 티어가 모두 출시되었으며, 모델 ID는 gpt-5.6-sol, gpt-5.6-terra, gpt-5.6-luna입니다. 캐싱은 별도의 추가 설정이 필요 없으며, 같은 긴 프리픽스를 가진 연속 요청은 캐시에 적중합니다:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

long_context = "You are a meticulous assistant for analyzing quarterly financial reports... [Static long instructions, >=1024 tokens]"

for i in range(2):
    completion = client.chat.completions.create(
        model="gpt-5.6-sol",
        prompt_cache_key="my-app-report-assistant-v1",
        messages=[
            {"role": "system", "content": long_context},
            {"role": "user", "content": "Summarize the key figures in one sentence."},
        ],
    )
    print(completion.usage.prompt_tokens_details)

두 번째 호출에서 usage.prompt_tokens_details.cached_tokens 값이 0보다 크면 캐시 적중을 의미합니다(측정 예시: cached_tokens: 2816). 매개변수 세부 사항, 과금 방식, 적중 문제 해결에 대해서는 GPT Prompt Caching 문서를 참고하세요.

FAQ

AIHubMix에서 어떤 API로 GPT-5.6을 호출할 수 있나요?

Chat Completions(/v1/chat/completions), Responses(/v1/responses), Claude 호환 Messages API(/v1/messages) 모두 모델을 호출할 수 있으며, 세 가지 티어 모두 출시되어 있습니다. 프롬프트 캐싱에는 현재 Chat Completions가 권장되는 경로입니다.

클라이언트를 전혀 변경하지 않으면, GPT-5.6으로 업그레이드한 후 과금은 어떻게 달라지나요?

프롬프트 캐싱은 기본적으로 자동 적용됩니다. 프리픽스가 1,024 토큰에 도달한 요청은 입력 요율의 1.25배로 청구되는 캐시 쓰기 항목이 발생하며, 재사용된 프리픽스는 0.1배 읽기 요율로 청구됩니다. 프리픽스 재사용이 많은 애플리케이션은 대개 총비용이 낮아집니다. 프리픽스를 재사용하지 않는 일회성 장문 요청은 explicit 모드를 사용해 캐싱을 비활성화할 수 있습니다.

Claude 프롬프트 캐싱을 사용해 왔습니다. GPT-5.6으로 마이그레이션하려면 무엇을 바꿔야 하나요?

프롬프트 구조화 전략은 그대로입니다. 정적 콘텐츠를 앞에, 변동 콘텐츠를 뒤에 둡니다. 매개변수는 cache_control에서 prompt_cache_breakpoint로 바뀌며, 여기에 prompt_cache_key가 추가됩니다. 보존 기간은 5분/1시간 단위에서 30분의 보장된 최소 기간으로 바뀝니다.

GPT-5.6의 세 가지 티어 중 어떻게 선택해야 하나요?

공식 포지셔닝에 따르면, 복잡한 전문 업무와 코딩 작업에는 Sol을, 일상적인 워크로드에는 Terra를(GPT-5.5 수준의 성능을 절반 가격에 제공), 비용에 민감하고 대량 처리가 필요한 시나리오에는 Luna를 선택하면 됩니다. 세 티어 모두 동일한 컨텍스트 윈도우와 최대 출력을 공유하므로 작업 복잡도에 따라 라우팅할 수 있습니다.

공식 참고 자료

이 글의 모델 사양, 캐싱 메커니즘, 과금 요율은 다음 공식 자료에서 가져왔습니다:

• GPT-5.6 발표 (OpenAI, 2026-07-09)
• OpenAI 프롬프트 캐싱 가이드
• OpenAI 가격 정책
• Anthropic 프롬프트 캐싱 문서

이 사이트의 관련 문서: GPT Prompt Caching · Claude Prompt Caching · Prompt Caching 실무 가이드

GPT-5.6 가격은 모델 갤러리에서 확인하실 수 있으며, 더 많은 연동 옵션은 문서 센터에서 살펴보세요.

최종 업데이트: 2026-07-10