GPT-5.6 đã ra mắt: Giải thích thay đổi về cách tính phí prompt caching

OpenAI chính thức phát hành họ GPT-5.6 vào ngày 9 tháng 7 năm 2026. AIHubMix đã hoàn tất tích hợp cả ba cấp: gpt-5.6-sol, gpt-5.6-terra và gpt-5.6-luna hiện đã có sẵn qua Chat Completions và Responses. Bản phát hành cũng thay đổi cơ chế prompt caching và cách tính phí: cache write giờ được tính phí riêng. Bài viết này trình bày định vị của ba cấp và đi qua từng thay đổi về caching.

Những thay đổi với ba cấp GPT-5.6

GPT-5.6 đổi cách đặt tên: con số thể hiện thế hệ mô hình, còn Sol, Terra và Luna là các cấp năng lực có thể phát triển độc lập. Theo định nghĩa chính thức, Sol là mô hình hàng đầu, Terra là cấp giá thấp hơn với hiệu năng tương đương GPT-5.5, còn Luna là cấp nhanh nhất và có giá thấp nhất.

Về năng lực, định vị chính thức: Sol đạt kết quả state-of-the-art ở các tác vụ lập trình, công việc tri thức, an ninh mạng và khoa học, được OpenAI mô tả là mô hình lập trình tốt nhất từ trước đến nay, đồng thời lập kỷ lục mới trên Terminal-Bench 2.1 và DeepSWE; Terra tương đương hiệu năng GPT-5.5 với nửa giá. Họ mô hình bổ sung mức suy luận tối đa (max reasoning level), còn Responses API bổ sung Programmatic Tool Calling và khả năng multi-agent (Beta).

Giải thích về nâng cấp cơ chế caching

Trước GPT-5.6, prompt caching trên các mô hình GPT hoàn toàn tự động: các tiền tố từ 1,024 token trở lên được cache tự động, nhà phát triển không kiểm soát được nội dung nào được cache hay trong bao lâu, và cache bị xóa sau 5–10 phút không hoạt động. OpenAI tóm tắt các thay đổi của GPT-5.6 là "prompt caching dễ dự đoán hơn", với ba điểm cụ thể:

1. Thời gian lưu giữ tăng từ "ngắn nhất 5 phút" lên "ít nhất 30 phút". prompt_cache_options.ttl hiện chỉ hỗ trợ "30m"; đây là mức tối thiểu được đảm bảo, thời gian lưu thực tế có thể lâu hơn.
2. Breakpoint cache tường minh là tính năng mới. Đặt prompt_cache_breakpoint trên một content block sẽ ghim ranh giới cache ở cuối phần nội dung ổn định, nên các thay đổi sau breakpoint không làm vô hiệu tiền tố đã cache phía trước; khi prompt_cache_options.mode được đặt thành "explicit", chỉ các breakpoint thủ công được sử dụng.
3. prompt_cache_key chuyển từ tối ưu hóa thành yêu cầu chính thức. Bắt đầu từ GPT-5.6, nên đặt tham số này để tăng độ tin cậy khi khớp cache; OpenAI khuyến nghị giữ lưu lượng mỗi key ở khoảng 15 request mỗi phút.

Cách đánh giá phí ghi cache 1.25x

Từ GPT-5.6 trở đi, cache write được tính phí bằng 1.25x giá input cơ bản và cache read bằng 0.1x; với các mô hình cũ hơn, cache write không tốn phí bổ sung. Nguyên văn chính thức (từ thông báo GPT-5.6): "Đối với GPT-5.6 và các mô hình mới hơn, cache write được tính bằng 1.25x giá input chưa cache của mô hình, trong khi cache read vẫn được hưởng mức giảm 90% cho cached input."

Phép tính hòa vốn suy ra trực tiếp từ mức giá chính thức: ghi một tiền tố tốn thêm 0.25x giá input so với không cache, còn mỗi lần hit sau đó tiết kiệm 0.9x giá input: một tiền tố chỉ cần được dùng lại một lần đã tạo ra khoản tiết kiệm ròng, và càng dùng lại nhiều thì tiết kiệm càng lớn.

• Các khối lượng công việc được hưởng lợi rõ rệt: quy trình agent với system prompt dài, RAG liên tục đưa tài liệu tham khảo dài vào, ứng dụng mang theo định nghĩa tool lớn, và hội thoại nhiều lượt chỉ nối thêm tin nhắn. Những khối lượng này có tỷ lệ tái sử dụng tiền tố cao, nên mức đọc 0.1x chiếm ưu thế.
• Các khối lượng công việc cần lưu ý: các request dài dùng một lần mà tiền tố không bao giờ được tái sử dụng. Caching tự động được bật mặc định, nên các request này phải chịu khoản phí ghi 1.25x không thể thu hồi; đặt prompt_cache_options.mode thành "explicit" mà không đặt breakpoint nào sẽ khiến request bỏ qua cache hoàn toàn và không phát sinh phí ghi.

So sánh: prompt caching trên GPT-5.6 và Claude

Thiết kế caching của GPT-5.6 hội tụ với cache_control của Claude ở nhiều khía cạnh, khác biệt cốt lõi nằm ở hành vi mặc định: GPT tự động cache mà không cần tham số nào, còn Claude yêu cầu bật caching trong request, hoặc qua trường cache_control cấp cao nhất (breakpoint tự động) hoặc breakpoint tường minh ở cấp content block.

Cột Claude phản ánh các quy tắc chung cho tất cả mô hình Claude đang hoạt động: write 1.25x cho mức 5 phút, 2x cho mức 1 giờ, và read 0.1x áp dụng đồng nhất trên toàn bộ dòng sản phẩm (tài liệu prompt caching của Anthropic), với khác biệt theo từng mô hình chỉ nằm ở độ dài tối thiểu có thể cache; cột GPT-5.6 lấy từ hướng dẫn prompt caching của OpenAI.

Giới hạn breakpoint, mức phí ghi (ở các cấp tương ứng) và mức phí đọc khớp chính xác giữa hai nhà cung cấp; nói thực tế, cùng chiến lược cấu trúc prompt "nội dung tĩnh đặt trước, nội dung thay đổi đặt sau" áp dụng được cho cả hai. Chi phí di chuyển tập trung ở cú pháp tham số: GPT dùng prompt_cache_breakpoint + prompt_cache_key, Claude dùng cache_control.

Cùng một mẫu caching trên cả hai giao thức

Với cùng kịch bản "cache một chỉ dẫn dài tĩnh", các triển khai tối giản trên hai giao thức như sau. Ví dụ dùng gpt-5.6-sol và claude-opus-4-8. Cả hai có cùng giá input cơ bản ($5/M), nên giá hiệu dụng mỗi token suy ra từ phí ghi cache (1.25x) và đọc cache (0.1x) cũng giống nhau; chỉ cú pháp khác nhau.

Giao thức GPT đặt prompt_cache_key ở cấp cao nhất (tiền tố dài được cache tự động, không cần đánh dấu breakpoint); giao thức Claude đặt cache_control ở cấp cao nhất để bật caching tự động, và chuyển sang breakpoint ở cấp content block khi cần kiểm soát chính xác ranh giới cache:

GPT-5.6 (Chat Completions)

curl https://aihubmix.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -d '{
    "model": "gpt-5.6-sol",
    "prompt_cache_key": "my-app-report-v1",
    "messages": [
      {
        "role": "system",
        "content": "[Static long instructions, >=1024 tokens]"
      },
      {
        "role": "user",
        "content": "Summarize the key figures."
      }
    ]
  }'

Claude (Messages)

curl https://aihubmix.com/v1/messages \
  -H "Content-Type: application/json" \
  -H "x-api-key: $AIHUBMIX_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-opus-4-8",
    "max_tokens": 1024,
    "cache_control": {"type": "ephemeral"},
    "system": "[Static long instructions, >=1024 tokens]",
    "messages": [
      {
        "role": "user",
        "content": "Summarize the key figures."
      }
    ]
  }'

Khi so sánh hai request, khác biệt nằm ở: endpoint (/v1/chat/completions so với /v1/messages), header xác thực (Authorization: Bearer so với x-api-key + anthropic-version), tham số caching (prompt_cache_key cấp cao nhất so với cache_control cấp cao nhất), và việc Claude yêu cầu max_tokens tường minh. Cả hai request đã được xác minh trên aihubmix.com (2026-07-10): gpt-5.6-sol trả về cached_tokens: 2816 ở lần gọi thứ hai; claude-opus-4-8 trả về cache_creation_input_tokens: 3632 ở lần gọi đầu và cache_read_input_tokens: 3632 ở lần thứ hai.

Ngoài định dạng request, còn ba khác biệt ở cấp cơ chế:

1. Kích hoạt: GPT tự cache ngay cả khi không có tham số caching nào, với prompt_cache_key giúp tăng độ tin cậy khi hit; Claude yêu cầu khai báo: một breakpoint cache_control ở cấp content block, hoặc chế độ tự động bằng cache_control cấp cao nhất.
2. Các trường usage: GPT báo cáo số lần đọc cache trong prompt_tokens_details.cached_tokens; Claude báo cáo riêng lần ghi và lần đọc dưới dạng cache_creation_input_tokens và cache_read_input_tokens, giúp dễ dàng kiểm tra độc lập số lần ghi và số lần hit.
3. Kiểm soát thời gian sống: ttl của GPT-5.6 hiện chỉ hỗ trợ "30m"; Claude mặc định 5 phút (được làm mới miễn phí mỗi lần hit), với tùy chọn "ttl": "1h" (phí ghi 2x).

Những gì cần thay đổi khi đổi mô hình giữa các giao thức

Gateway AIHubMix hỗ trợ gọi chéo giao thức: endpoint tương thích OpenAI có thể gọi mô hình Claude (cache_control đi trực tiếp vào content block của message theo định dạng OpenAI; xem Prompt Caching practices), và endpoint tương thích Claude /v1/messages có thể gọi GPT-5.6 (đã xác minh hoạt động). Khi đổi mô hình, hãy kiểm tra ba điểm:

• Đổi model sang ID mô hình đích;
• Chuyển cú pháp tham số caching: prompt_cache_key / breakpoint tường minh tương ứng với cache_control của Claude;
• Chuyển tên trường usage: cached_tokens tương ứng với cache_read_input_tokens của Claude.

Các đường dẫn khuyến nghị cho prompt caching: mô hình GPT qua Chat Completions (đường cache-hit đã được xác minh trong bài này); mô hình Claude hoạt động qua cả hai giao thức.

So sánh: GPT-5.6 và caching GPT trước đó

Các thay đổi đi theo một hướng: cơ chế caching thế hệ trước không tính phí ghi nhưng không kiểm soát được, thời gian lưu giữ không chắc chắn; GPT-5.6 tính phí ghi nhưng đảm bảo thời gian lưu giữ tối thiểu và cung cấp các điểm ngắt cache có thể kiểm soát chính xác. Theo mức giá, một tiền tố được tái sử dụng trung bình hơn một lần sẽ tiết kiệm nhiều hơn chi phí ghi bổ sung; thời gian lưu giữ tối thiểu 30 phút và các điểm ngắt có thể kiểm soát giúp đạt được tỷ lệ tái sử dụng đó một cách dễ dự đoán hơn.

Bắt đầu sử dụng trên AIHubMix

Cả ba cấp đều đã ra mắt, với model ID là gpt-5.6-sol, gpt-5.6-terra và gpt-5.6-luna. Caching không cần cấu hình thêm; các yêu cầu liên tiếp có cùng tiền tố dài sẽ trúng cache:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

long_context = "You are a meticulous assistant for analyzing quarterly financial reports... [Static long instructions, >=1024 tokens]"

for i in range(2):
    completion = client.chat.completions.create(
        model="gpt-5.6-sol",
        prompt_cache_key="my-app-report-assistant-v1",
        messages=[
            {"role": "system", "content": long_context},
            {"role": "user", "content": "Summarize the key figures in one sentence."},
        ],
    )
    print(completion.usage.prompt_tokens_details)

Giá trị usage.prompt_tokens_details.cached_tokens lớn hơn 0 ở lần gọi thứ hai cho thấy đã trúng cache (ví dụ đo thực tế: cached_tokens: 2816). Chi tiết tham số, cách tính phí và xử lý sự cố trúng cache, xem tài liệu GPT Prompt Caching.

Câu hỏi thường gặp

Những API nào có thể gọi GPT-5.6 trên AIHubMix?

Chat Completions (/v1/chat/completions), Responses (/v1/responses) và Messages API tương thích Claude (/v1/messages) đều có thể gọi các model, và cả ba cấp đều đã ra mắt. Với prompt caching, Chat Completions hiện là lộ trình được khuyến nghị.

Nếu client của tôi không thay đổi gì, sau khi nâng cấp lên GPT-5.6 thì phần tính phí thay đổi như thế nào?

Prompt caching được áp dụng tự động theo mặc định: các yêu cầu có tiền tố đạt 1.024 token sẽ phát sinh một khoản phí ghi cache được tính bằng 1,25 lần mức giá đầu vào, còn các tiền tố được tái sử dụng được tính theo mức đọc 0,1 lần. Các ứng dụng có tỷ lệ tái sử dụng tiền tố cao thường thấy tổng chi phí thấp hơn; các yêu cầu dài dùng một lần, không bao giờ tái sử dụng tiền tố, có thể tắt caching bằng chế độ explicit.

Tôi đã dùng prompt caching của Claude. Cần thay đổi gì để chuyển sang GPT-5.6?

Chiến lược cấu trúc prompt vẫn giữ nguyên: nội dung tĩnh đặt trước, nội dung thay đổi đặt sau cùng. Các tham số đổi từ cache_control sang prompt_cache_breakpoint, cộng thêm prompt_cache_key; thời gian lưu giữ đổi từ các mức 5 phút/1 giờ sang mức tối thiểu được đảm bảo là 30 phút.

Làm thế nào để chọn giữa ba cấp của GPT-5.6?

Theo định vị chính thức: chọn Sol cho công việc chuyên môn phức tạp và các tác vụ lập trình; chọn Terra cho khối lượng công việc hằng ngày (hiệu năng ngang GPT-5.5 với nửa giá); chọn Luna cho các tình huống nhạy cảm về chi phí và khối lượng lớn. Cả ba cấp đều dùng chung cửa sổ ngữ cảnh và số token đầu ra tối đa, vì vậy bạn có thể phân luồng theo độ phức tạp của tác vụ.

Tài liệu tham khảo chính thức

Thông số model, cơ chế caching và mức giá tính phí trong bài viết này được lấy từ các nguồn chính thức sau:

• Thông báo GPT-5.6 (OpenAI, 2026-07-09)
• Hướng dẫn prompt caching của OpenAI
• Bảng giá OpenAI
• Tài liệu prompt caching của Anthropic

Tài liệu liên quan trên trang này: GPT Prompt Caching · Claude Prompt Caching · Thực hành Prompt Caching

Truy cập thư viện model để xem giá GPT-5.6, hoặc khám phá thêm các tùy chọn tích hợp trong trung tâm tài liệu.

Cập nhật lần cuối: 2026-07-10