Chi phí thực sự của GPT-6.1 Sol: Vượt qua mức giá $2 / $10

AIHubMixĐọc 6 phút
Chi phí thực sự của GPT-6.1 Sol: Vượt qua mức giá $2 / $10

GPT-6.1 Sol có cùng mức giá niêm yết như GPT-6 Sol: $2 cho mỗi triệu token đầu vào và $10 cho mỗi triệu token đầu ra. Hóa đơn thực tế của bạn phụ thuộc vào bốn yếu tố khác: tần suất bạn truy cập bộ nhớ cache, liệu bạn có vượt quá 272K token đầu vào hay không, bạn sử dụng cấp dịch vụ nào và số lượng token lý luận mà mô hình tiêu tốn. Bài viết này sẽ đi qua từng yếu tố.


Danh sách giá đầy đủ

Mức giá tiêu chuẩn (cho mỗi 1 triệu token)

GPT-6.1 SolGPT-6 SolGPT-6 AstraGPT-6 Luna
Đầu vào$2.00$2.00$10.00$0.10
Đầu vào đã lưu trữ$0.10$0.20$1.00—
Ghi vào bộ nhớ cache$2.50$2.50——
Đầu ra (bao gồm lý luận)$10.00$10.00$50.00$0.50
Tỷ lệ đã lưu trữ của Astra đến từ báo cáo của bên thứ ba. Tỷ lệ ghi vào bộ nhớ cache của nó nên là $12.50 theo quy tắc 1.25× của OpenAI. Để biết giá bộ nhớ cache của Luna, xem trang giá của OpenAI.

Hệ số nhân

Các quy tắc này đến từ trang mô hình GPT-6.1 Sol:

Điều kiệnĐiều gì xảy ra
Hơn 272K token đầu vàoToàn bộ yêu cầu tính phí ở mức 2× đầu vào và bộ nhớ cache, 1.5× đầu ra ($4 / $15, đọc bộ nhớ cache $0.20, ghi bộ nhớ cache $5)
Gói / Linh hoạtMột nửa mức giá tiêu chuẩn
Chế độ nhanhGấp đôi mức giá tiêu chuẩn (không có sẵn với dữ liệu cư trú EU)
Xử lý khu vực+10%
Gọi công cụ (tìm kiếm, sử dụng máy tính, v.v.)Tính phí theo cuộc gọi. AIHubMix liệt kê tìm kiếm web với giá $0.01 cho mỗi yêu cầu
Siêu nhanh (sắp có trên Codex)Chưa có giá chính thức. Một báo cáo cho biết 6× mức tiêu chuẩn, chưa được xác nhận

Trên AIHubMix, các tuyến đường OpenAI và Azure có giá tương đương với OpenAI trực tiếp, và cấp trên 272K đã được liệt kê.


Sự thay đổi thực sự: đọc bộ nhớ cache ở mức 5% của đầu vào

Mức giá niêm yết không thay đổi. Các lần đọc bộ nhớ cache đã thay đổi, từ 10% của mức giá đầu vào ($0.20) xuống còn 5% ($0.10). Tài liệu hướng dẫn lưu trữ prompt của OpenAI nói rõ: các lần đọc bộ nhớ cache là 0.1× đầu vào trên hầu hết các mô hình và "0.05× trên GPT-6.1 Sol."

Điều này quan trọng vì các tác nhân gửi lại cùng một tài liệu ở mỗi bước: prompt hệ thống, định nghĩa công cụ, ngữ cảnh repo và lịch sử cuộc trò chuyện. Hầu hết đầu vào của họ là nội dung lặp lại. Đối với những khối lượng công việc này, tỷ lệ đã lưu trữ thực sự là giá đầu vào của bạn.

Ví dụ thực tế: một tác vụ của tác nhân lập trình

Các giả định:

  • Một tiền tố cố định 200K token (prompt hệ thống, công cụ, ngữ cảnh repo)
  • 50 bước, mỗi bước thêm 2K token đầu vào mới và tạo ra 3K token đầu ra (bao gồm lý luận)
  • Để đơn giản, tiền tố giữ nguyên kích thước, được ghi vào bộ nhớ cache ở bước 1 và truy cập ở tất cả 49 bước còn lại
6.1 Sol, không có bộ nhớ cache6 Sol + bộ nhớ cache6.1 Sol + bộ nhớ cacheAstra + bộ nhớ cache
Ghi bộ nhớ cache ban đầu 200K—$0.50$0.50$2.50
49 lần đọc bộ nhớ cache—$1.96$0.98$9.80
Tiền tố tính phí như đầu vào thông thường$20.00———
100K đầu vào mới (tại tỷ lệ ghi)$0.20$0.25$0.25$1.25
150K đầu ra$1.50$1.50$1.50$7.50
Tổng cộng$21.70$4.21$3.23$21.05

Ba điểm rút ra:

  1. Bộ nhớ cache là yếu tố quan trọng nhất. Cùng một mô hình, cùng một công việc, và chạy không có bộ nhớ cache tốn kém gần 7 lần.
  2. 6.1 Sol rẻ hơn khoảng 23% so với 6 Sol ở đây, trong khi cũng đạt điểm cao hơn.
  3. Đối với công việc nặng về bộ nhớ cache, Astra tốn nhiều hơn mức chênh lệch giá niêm yết 5× cho thấy. Trong ví dụ này, nó là 6.5×, vì Astra giảm giá đầu vào đã lưu trữ 90% và 6.1 Sol giảm 95%.

Điều này phù hợp với chi phí theo tác vụ được OpenAI báo cáo (được tổng hợp bởi Vellum và The Next Web): khoảng $1.50 so với $7.70 trên DeepSWE, $1.30 so với $9.30 trên OSWorld, và $5.47 so với $23.80 trên Terminal-Bench Science.

Một lưu ý: OpenAI cho biết Astra thường cần ít token đầu ra hơn để hoàn thành cùng một tác vụ. So sánh các mô hình dựa trên chi phí theo tác vụ, không phải chi phí theo token.

Ghi vào bộ nhớ cache không miễn phí

Ghi vào bộ nhớ cache trên 6.1 Sol tốn 1.25× mức giá đầu vào. Nếu một tiền tố chỉ được sử dụng một lần, việc lưu trữ sẽ làm cho nó tốn kém hơn 25%. Sử dụng công thức từ tài liệu của OpenAI:

  • Một lần ghi cộng với một lần đọc: 1.35× chi phí đầu vào thông thường (1.3× trên 6.1 Sol), so với 2× mà không có bộ nhớ cache
  • Một lần ghi cộng với chín lần đọc: khoảng 2.15× (khoảng 1.7× trên 6.1 Sol), so với 10×

Tiền tố có thể lưu trữ tối thiểu là 1,024 token. Toán học hòa vốn của OpenAI cho biết một tiền tố có 102 token hoặc ít hơn sẽ không bao giờ có lợi. Nếu bạn mong đợi 10 lần sử dụng trở lên, việc làm đầy bất kỳ thứ gì trên 221 token lên 1,024 sẽ rẻ hơn.

Đối với các cuộc gọi một lần như phân loại một lần hoặc trích xuất hàng loạt, hãy sử dụng chế độ rõ ràng (prompt_cache_options.mode: "explicit") mà không có điểm dừng. Bạn sẽ không bị tính phí cho bất kỳ lần ghi nào.


Vách đá 272K

6.1 Sol chấp nhận 1.05 triệu token ngữ cảnh, nhưng khi đầu vào vượt quá 272K, toàn bộ yêu cầu sẽ chuyển sang mức giá cao hơn, không chỉ các token vượt qua giới hạn.

Yêu cầuĐầu vàoĐầu raChi phí
A270K10K0.27 × $2 + 0.01 × $10 = $0.64
B280K10K0.28 × $4 + 0.01 × $15 = $1.27

Mười nghìn token đầu vào thêm gần như gấp đôi hóa đơn.

Cách để giữ dưới mức đó:

  • Đếm token ở phía khách hàng và nén hoặc cắt bớt trước khi bạn đạt 272K
  • Lấy các phần liên quan của tài liệu dài thay vì gửi toàn bộ
  • Khi bạn thực sự cần ngữ cảnh dài, hãy đặt phần cố định vào một tiền tố đã lưu trữ

Cách mà nỗ lực lý luận xuất hiện trên hóa đơn

Các token lý luận tính phí theo tỷ lệ đầu ra, $10 cho mỗi triệu. Chuyển cùng một tác vụ từ mức thấp lên mức tối đa có thể nhân số token lý luận lên mười lần hoặc hơn.

Chi phí theo tác vụ được OpenAI báo cáo cung cấp cảm nhận về quy mô (đây là các tiêu chuẩn khác nhau, vì vậy chỉ so sánh độ lớn):

  • AutomationBench (trung bình): ~$0.30
  • GDP.pdf: ~$0.38
  • DeepSWE (cao): ~$1.50
  • Terminal-Bench Science (tối đa): ~$5.47

Phần 2 đề cập đến cách chọn mức. Một nhắc nhở ở đây: thay đổi reasoning.effort giữa cuộc trò chuyện sẽ làm mất hiệu lực bộ nhớ cache. Sử dụng configuration_update thay vào đó.


Cách nó so sánh ở mức giá này

Mô hìnhĐầu vào / đầu raĐầu vào đã lưu trữ
GPT-6.1 Sol$2 / $10$0.10
Claude Sonnet 5.5$2 / $10$0.20
GPT-6 Astra$10 / $50$1.00

6.1 Sol và Claude Sonnet 5.5 có cùng mức giá niêm yết, và tỷ lệ đã lưu trữ của 6.1 Sol chỉ bằng một nửa của Sonnet. Tuy nhiên, chúng mạnh ở những lĩnh vực khác nhau. Trên AutomationBench, ví dụ, Sonnet 5.5 đạt điểm cao hơn. Khi hai mô hình có cùng chi phí mỗi token, mô hình có chi phí thấp hơn cho mỗi tác vụ trên khối lượng công việc của bạn là mô hình rẻ hơn.

Danh sách mô hình AIHubMix cho thấy giá hiện tại, và một khóa API hoạt động cho tất cả chúng, vì vậy việc thử nghiệm cạnh nhau là dễ dàng.

Giá của đối thủ đến từ các nguồn bên thứ ba và có thể thay đổi. Kiểm tra các trang giá chính thức trước khi dựa vào chúng.

Danh sách kiểm tra chi phí

  1. Đặt nội dung ổn định lên hàng đầu. Prompt hệ thống, định nghĩa công cụ và tài liệu tham khảo đi ở trên cùng. Dữ liệu theo thời gian và theo người dùng đi ở cuối.
  2. Thêm vào, không viết lại. Tóm tắt, cắt ngắn và nén đều khởi động lại bộ nhớ cache.
  3. Giữ danh sách công cụ ổn định. Không thêm hoặc xóa công cụ theo yêu cầu. Sử dụng tool_choice hoặc allowed_tools thay vào đó.
  4. Chuyển nỗ lực bằng configuration_update, không phải tham số yêu cầu.
  5. Giữ dưới 272K đầu vào.
  6. Gửi công việc không khẩn cấp qua Gói hoặc Linh hoạt với giá một nửa.
  7. Định tuyến theo tác vụ. Luna cho công việc đơn giản với khối lượng lớn, 6.1 Sol cho hầu hết mọi thứ, Astra cho những vấn đề khó nhất.
  8. Theo dõi ba số: cached_tokens, cache_write_tokens, và reasoning_tokens.

Điểm mấu chốt: mức giá niêm yết không thay đổi, nhưng các lần đọc bộ nhớ cache đã giảm 50%. Đối với khối lượng công việc của tác nhân, điều này khiến 6.1 Sol trở thành mô hình có giá trị tốt nhất trong gia đình GPT-6, miễn là bạn sử dụng bộ nhớ cache tốt và giữ dưới 272K.

Tiếp theo: các vấn đề bạn có thể gặp phải khi chuyển đổi.


Câu hỏi thường gặp

Chi phí của GPT-6.1 Sol là bao nhiêu? $2 cho mỗi triệu token đầu vào, $10 cho mỗi triệu token đầu ra, $0.10 cho đầu vào đã lưu trữ, và $2.50 cho ghi vào bộ nhớ cache. Các yêu cầu vượt quá 272K token đầu vào tính phí $4 cho đầu vào và $15 cho đầu ra cho toàn bộ yêu cầu.

Có rẻ hơn khi qua AIHubMix hay OpenAI trực tiếp không? Cùng một mức giá. Các tuyến đường OpenAI và Azure của AIHubMix đều khớp với mức giá chính thức của OpenAI.

Tại sao hóa đơn của tôi lại cao hơn tôi ước tính? Bốn lý do phổ biến: các token lý luận tính phí theo tỷ lệ đầu ra; bạn đã vượt quá 272K đầu vào; bạn đã bỏ lỡ bộ nhớ cache hoặc phải trả phí ghi cho các tiền tố một lần; hoặc chế độ nhanh hoặc xử lý khu vực đang bật.

Các lần ghi vào bộ nhớ cache có tốn thêm không? Các token đã ghi tính phí ở mức 1.25× tỷ lệ đầu vào. Điều này thay thế phí đầu vào thông thường thay vì cộng thêm vào đó. Một tiền tố tự trả cho chính nó sau hai lần sử dụng. Đối với các tiền tố một lần, chế độ rõ ràng cho phép bạn bỏ qua hoàn toàn việc ghi.

6.1 Sol rẻ hơn Astra bao nhiêu? Rẻ hơn năm lần theo mức giá niêm yết. Đối với công việc nặng về bộ nhớ cache, khoảng cách có thể đạt 6 đến 7× vì 6.1 Sol giảm giá đầu vào đã lưu trữ mạnh hơn. Tuy nhiên, Astra thường sử dụng ít token đầu ra hơn cho mỗi tác vụ, vì vậy hãy so sánh chi phí theo tác vụ.

Có thể kết hợp Gói với bộ nhớ cache không? Gói và Linh hoạt đều có giá một nửa. Để biết cách chúng kết hợp với bộ nhớ cache, hãy kiểm tra trang giá của OpenAI.


Tiếp tục đọc: chuỗi GPT-6.1 Sol


Nguồn