Gemini 4 Neon: mặc định suy nghĩ ở mức cao, lỗi 400 và giới hạn 65K

AIHubMixĐọc 14 phút

Google đề xuất Gemini 4 Neon làm mô hình nâng cấp cho Gemini 3.1 Pro, dùng cho công việc lập trình tổng quát trên Gemini 4 Argon và cho các tác vụ lập trình hoặc khoa học phức tạp trên Gemini 3.8 Flash. Đổi chuỗi model thành gemini-4-neon là phần dễ nhất. Những thay đổi còn lại thuộc bốn nhóm.

  • Âm thầm: mức suy nghĩ mặc định giờ là high. Argon và 3.8 Flash có mức mặc định là medium. Nếu không đặt mức, mỗi yêu cầu sẽ suy nghĩ nhiều hơn so với khi ở mức medium. Với người dùng 3.8 Flash, điều đó đồng nghĩa hóa đơn cao hơn; còn với người dùng Argon, chi phí mỗi tác vụ vẫn giảm (xem bên dưới).
  • Rõ ràng: Neon trả về HTTP 400 với một số trường mà mã cũ vẫn gửi: thinking_budget, mức MINIMAL nguyên bản, hai tham số phạt, nhiều hơn một ứng viên và chữ ký suy nghĩ không hợp lệ trong các lần gọi công cụ.
  • Âm thầm: temperature, top_p và top_k bị bỏ qua, còn giới hạn đầu ra thấp có thể khiến mô hình dừng khi vẫn đang suy nghĩ. Không hỗ trợ bộ nhớ đệm ngữ cảnh tường minh và lượt assistant được điền sẵn; Google không cho biết các trường hợp này sẽ thất bại như thế nào.
  • Trên AIHubMix: hãy dự trù 65,536 token đầu ra cho mỗi yêu cầu. Khả năng giải mã dài 1M token của Google không dùng được qua endpoint tương thích OpenAI của AIHubMix, và đường dẫn gốc của Google chưa được kiểm thử cho bài viết này.

Chuyển từ Gemini 4 Carbon đơn giản hơn: Google cho biết lược đồ yêu cầu không thay đổi, và khác biệt chính là mức mặc định. Bài viết về Neon và Carbon trình bày cách chuyển đổi đó.

Điểm khác biệt tùy theo mô hình bạn đang dùng

Thay đổi Từ 3.1 Pro Từ Argon Từ 3.8 Flash
Mức suy nghĩ mặc định giờ là high medium thành high medium thành high
Mức xhigh mới mới mới
Giới hạn token đã thống nhất ở mức 1M đã thống nhất từ trước đã thống nhất ở mức 1M
Bộ nhớ đệm tường minh đã bị loại bỏ đã bị loại bỏ từ trước đã bị loại bỏ
Giá, đầu vào / đầu ra $2 / $12 thành $3 / $15 $2 / $10 thành $3 / $15 $0.75 / $3.75 thành $3 / $15

Giá chính thức của Google, tính bằng USD cho mỗi triệu token. Mức giá $2/$12 của Gemini 3.1 Pro áp dụng cho prompt tối đa 200K token ($4/$18 nếu vượt mức đó); Neon có một mức giá duy nhất trong toàn bộ cửa sổ 1M. Mức giá $2/$10 của Argon là giá ưu đãi mở bán, sẽ tăng thành $4/$20 vào ngày December 1, 2026; mức $0.75/$3.75 của 3.8 Flash có hiệu lực đến ngày December 31, 2026. Google cho biết cả 3.1 Pro lẫn Argon đều có giới hạn tối đa là high; Google không nêu mức mặc định của 3.1 Pro.

Các quy tắc trong phần còn lại của bài viết này dựa trên hướng dẫn dành cho nhà phát triển Neon của Google Cloud và danh sách kiểm tra di chuyển trong AI Studio của Google, trừ khi có ghi chú khác.

Về các mô hình xuất phát: bảng nâng cấp trong AI Studio của Google hướng người dùng 3.8 Flash đến Gemini 4 Hydrogen. Chính hướng dẫn Google Cloud mới đề xuất Neon cho các tác vụ lập trình và khoa học phức tạp trên 3.8 Flash. Google chưa công bố ngày ngừng hoạt động cho 3.1 Pro Preview, 3.8 Flash hay bất kỳ model Gemini 4 nào.

Thay đổi âm thầm: mặc định mới là high

Google nói rõ: "thinking_level mặc định là HIGH (đổi từ MEDIUM trên gemini-4-argon và gemini-3.8-flash), đồng thời hỗ trợ XHIGH cho các tác vụ suy luận chuyên sâu …" Cách khắc phục cũng được nêu rõ: "Nếu khối lượng công việc của bạn dựa vào mức MEDIUM mặc định trên gemini-4-argon hoặc gemini-3.8-flash, hãy đặt rõ thinking_level="MEDIUM" để duy trì độ trễ suy luận tương đương."

Chi phí của mức suy nghĩ cao hơn, dựa trên các phép đo của Artificial Analysis từ API của Google (kiểm tra lại ngày 2026-11-19, 13:27 UTC; số liệu từ bên thứ ba và thay đổi khi AA chạy lại các model):

Thiết lập Neon Chỉ số AA $/tác vụ Phút/tác vụ Câu trả lời đầu tiên (giây)
Medium 54.9 1.90 8.3 20.1
High (mặc định) 59.6 3.74 14.8 40.6
Xhigh 61.4 6.44 21.5 56.5

Giá trị trung bình của AA cho mỗi tác vụ trong Intelligence Index, theo mức giá $3/$15 của Neon. "Câu trả lời đầu tiên" là thời gian đến token đầu tiên của câu trả lời.

Chuyển từ medium sang high giúp tăng 4.8 điểm trên chỉ số, nhưng chi phí mỗi tác vụ gần gấp đôi, thời gian mỗi tác vụ gấp 1.8 lần và thời gian chờ token đầu tiên của câu trả lời gấp đôi. Chuyển tiếp sang xhigh giúp tăng thêm 1.8 điểm với chi phí tăng thêm 72%. Đây là lựa chọn đáng giá cho công việc nhiều bước khó, nhưng không phù hợp với một câu trả lời trò chuyện.

Người dùng Argon có tin tốt từ cùng bộ dữ liệu. Neon Medium đạt 54.9 điểm, so với 47.6 của Argon Medium mặc định; chi phí lần lượt là $1.90 và $4.31 mỗi tác vụ, thời gian là 8.3 phút và 28.9 phút. Chuyển từ Argon sang Neon Medium vừa tăng chất lượng vừa giảm chi phí mỗi tác vụ, ngay cả trước khi giá Argon tăng gấp đôi. Ngay cả Neon High mặc định ($3.74, 14.8 phút) cũng có chi phí mỗi tác vụ thấp hơn Argon Medium trong các tác vụ của AA. Nếu không đặt mức, bạn sẽ mất lựa chọn Medium rẻ hơn.

Mức mặc định cao hơn còn có những tác động sau:

  • Token suy nghĩ được tính vào giới hạn đầu ra. Google cho biết: "Token suy luận được tạo ở mức HIGH (mặc định) và XHIGH được tính vào max_output_tokens và tích lũy trong ngữ cảnh nhiều lượt khi bạn giữ lại chữ ký suy nghĩ qua các lượt."
  • Ngữ cảnh đầy nhanh hơn. Trong các agent lập trình nhiều lượt, những token suy nghĩ đó sẽ tích lũy. Google khuyến cáo tránh "ngưỡng nén ngữ cảnh quá thấp" và gợi ý dùng medium cho các lượt gọi công cụ nhạy cảm với độ trễ.

Cách đặt mức tùy thuộc vào giao thức:

Giao thức Trường Giá trị dùng cho Neon
Gemini gốc thinkingConfig.thinkingLevel LOW đến XHIGH
Chat Completions reasoning_effort low đến xhigh
Responses reasoning.effort low đến xhigh
Anthropic Messages output_config.effort low đến xhigh

Các giá trị gốc viết hoa trong GenerateContent. Giá trị của ba giao thức còn lại lấy từ lược đồ tham số AIHubMix cho gemini-4-neon, trong đó liệt kê high là mức mặc định trên mọi giao thức.

Lớp tương thích OpenAI của Google ánh xạ reasoning_effort sang mức suy nghĩ, trong đó minimal được quy về low. Lớp này cũng nêu rằng hai trường "có chức năng trùng lặp nên không thể dùng cùng lúc": chỉ gửi một trong hai.

Các lỗi 400

Google ghi rõ từng trường hợp dưới đây cho Neon. Ghi chú lỗi của AIHubMix cho biết lỗi 400 là lỗi tham số và "phần lớn được chuyển tiếp từ nhà cung cấp thượng nguồn". Bài viết này không chạy thử trực tiếp, vì vậy nội dung chính xác bạn nhận được qua cổng trung gian có thể khác.

thinking_budget và MINIMAL

Những gì bạn sẽ thấy: HTTP 400 với các yêu cầu từng chạy được trên các model Gemini 3.

Nguyên nhân: Neon chỉ chấp nhận bốn mức được nêu tên. Trang model của Google cho biết: "Đặt thinking_budget hoặc thinking_level="MINIMAL" sẽ trả về lỗi xác thực HTTP 400." Bản diff mã của Google cũng đánh dấu trường cũ: thinking_budget=16384, # Returns HTTP 400 instead of mapping silently.

Cách khắc phục: xóa thinking_budget. Thay MINIMAL bằng LOW. Trên đường dẫn tương thích OpenAI, Google ánh xạ reasoning_effort="minimal" thành low, nhưng tự gửi low sẽ loại bỏ sự mơ hồ.

frequency_penalty, presence_penalty và nhiều ứng viên

Những gì bạn sẽ thấy: HTTP 400 khi yêu cầu đặt tham số phạt hoặc yêu cầu nhiều ứng viên.

Nguyên nhân: "Truyền frequency_penalty, presence_penalty hoặc candidate_count lớn hơn 1 (candidateCount cố định ở mức 1) sẽ trả về lỗi HTTP 400."

Cách khắc phục: xóa cả hai tham số phạt. Để candidate_count ở mức 1 hoặc bỏ trường này. Với Chat Completions, cũng không gửi n lớn hơn 1: Google không nêu lớp tương thích xử lý trường này ra sao, còn lược đồ của AIHubMix đánh dấu đây là trường không nên gửi.

max_output_tokens lớn hơn 1,048,576

Những gì bạn sẽ thấy: HTTP 400.

Nguyên nhân: đầu vào và đầu ra cùng dùng chung cửa sổ 1,048,576 token, vì vậy ngân sách đầu ra lớn hơn là không hợp lệ.

Cách khắc phục: trên AIHubMix, gửi tối đa 65,536 (xem phần giới hạn đầu ra). Giới hạn này chỉ quan trọng khi giải mã dài trên API riêng của Google.

Chữ ký suy nghĩ bị thiếu hoặc đặt sai vị trí

Những gì bạn sẽ thấy: HTTP 400 ở bước thứ hai trở đi của một lượt gọi công cụ.

Nguyên nhân: Neon xác thực chữ ký suy nghĩ đính kèm với các lệnh gọi hàm trong lượt hiện tại. "Bỏ thought_signature khỏi phần functionCall đầu tiên trong lượt đang hoạt động sẽ trả về lỗi HTTP 400. Gắn chữ ký trùng lặp vào các phần functionCall cùng cấp hoặc xen kẽ các lượt cũng sẽ trả về lỗi HTTP 400."

Hướng dẫn về thought signature của Google minh họa định dạng thông báo cho các model Gemini 3: "Lệnh gọi hàm <Function Call> trong khối nội dung <index of contents array> bị thiếu thought_signature." Hướng dẫn của Neon xác nhận lỗi 400 nhưng không nêu nội dung thông báo lỗi.

Cách khắc phục: gửi lại chính xác các lượt của model như bạn đã nhận được. Với các lệnh gọi song song, chỉ lệnh gọi đầu tiên mang chữ ký. Giữ tất cả lệnh gọi trong cùng một lượt của model và mọi kết quả trong cùng một lượt của người dùng, theo đúng thứ tự. Ví dụ của Google: khi model trả về "FC1 + signature, FC2", yêu cầu tiếp theo cần chứa "FC1 + signature, FC2, FR1, FR2". Nếu xen kẽ thành "FC1 + signature, FR1, FC2, FR2", yêu cầu sẽ trả về lỗi 400.

Giá trị lấy mẫu ngoài phạm vi

Những gì bạn sẽ thấy: HTTP 400 khi temperature hoặc top_p nằm ngoài phạm vi hợp lệ.

Nguyên nhân: Google bỏ qua các giá trị trong phạm vi nhưng vẫn xác thực chúng: "Giá trị ngoài phạm vi sẽ trả về lỗi xác thực 400."

Cách khắc phục: xóa hẳn các tham số lấy mẫu (xem phần tiếp theo).

Cấu trúc yêu cầu

Một yêu cầu hợp lệ qua AIHubMix, sử dụng cấu hình khởi động nhanh:

curl -s https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-4-neon",
    "reasoning_effort": "medium",
    "max_completion_tokens": 65536,
    "messages": [{"role": "user", "content": "Reply with OK."}]
  }'

Một yêu cầu được Google ghi nhận sẽ trả về lỗi 400 với Neon:

curl -s https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-4-neon",
    "frequency_penalty": 0.5,
    "messages": [{"role": "user", "content": "Reply with OK."}]
  }'

Kiểm tra tương tự trên endpoint Gemini gốc, với trường thinkingBudget cũ. Đường dẫn này theo mẫu AIHubMix tài liệu hóa cho các model Gemini khác; trang liệt kê riêng Neon chỉ hiển thị ví dụ Chat Completions.

curl -s "https://aihubmix.com/gemini/v1beta/models/gemini-4-neon:generateContent" \
  -H "x-goog-api-key: $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [{"role": "user", "parts": [{"text": "Reply with OK."}]}],
    "generationConfig": {"thinkingConfig": {"thinkingBudget": 16384}}
  }'

Đây là cấu trúc yêu cầu, không phải phản hồi được ghi nhận: không yêu cầu nào trong số này được chạy thử cho bài viết.

Các thay đổi khác cần lưu ý

Tham số lấy mẫu không có tác dụng

Google cố định các tham số lấy mẫu của Neon ở temperature 1.0, topP 0.95 và topK 64, đồng thời bỏ qua các giá trị tùy chỉnh. Giá trị temperature: 0 nhằm khiến đầu ra lặp lại ổn định sẽ không có tác dụng, và cũng không có lỗi nào báo cho bạn biết. Google khuyến nghị: "Kiểm soát độ sâu suy luận bằng thinking_level và định dạng đầu ra bằng response_schema." Hãy dùng đầu ra có cấu trúc khi cần định dạng cố định.

Không còn bộ nhớ đệm tường minh

cachedContents, caches.create và cached_content không được hỗ trợ. Google không nói rõ liệu yêu cầu vẫn gửi các trường này sẽ thất bại hay bị bỏ qua, vì vậy hãy xóa chúng thay vì chờ xem điều gì xảy ra. Bộ nhớ đệm trên Neon chỉ hoạt động ngầm. Tính năng này tự động áp dụng cho tiền tố prompt dùng chung có ít nhất 4,096 token (3.8 Flash cần 6,144), và chi phí đầu vào được lưu trong bộ nhớ đệm là $0.15 cho mỗi triệu token thay vì $3.00. Để sử dụng, hãy đặt phần tĩnh của prompt lên đầu: chỉ dẫn hệ thống, định nghĩa công cụ, tài liệu tham khảo. Xóa mã bộ nhớ đệm tường minh; Neon không có tính năng tương đương.

Giới hạn đầu ra thấp làm giảm phần suy nghĩ

Ứng dụng được tinh chỉnh cho một model cũ thường gửi max_tokens ở mức 8,192 trở xuống. Trên Neon, phần suy nghĩ và câu trả lời dùng chung ngân sách đó, nên giới hạn thấp có thể khiến phản hồi kết thúc trước khi câu trả lời bắt đầu. Hướng dẫn của Google là “xóa các giới hạn thấp được mã hóa cứng (chẳng hạn 8,192) hoặc tăng max_output_tokens lên 65,536. Muốn dùng ít token hơn thì hãy giảm mức suy nghĩ.”

Thời gian chờ quá ngắn

Google: “Các prompt khó có thể mất vài phút. Hãy dùng chế độ thực thi nền hoặc đặt thời gian chờ của HTTP client ít nhất 15 phút.” Theo mức trung bình của AA, Neon High mất 40.6 giây để tạo token câu trả lời đầu tiên, còn Xhigh mất 56.5 giây. Một số yêu cầu sẽ lâu hơn mức trung bình nhiều.

Lượt assistant điền sẵn

Quy tắc lịch sử của Neon: “Payload lịch sử không thể kết thúc bằng một lượt có vai trò model.” “Các lượt model điền sẵn không được hỗ trợ.” Mã đặt sẵn phần trả lời của assistant để định hướng định dạng — một mẹo phổ biến với API của Anthropic — cần ngừng làm việc đó. Google liệt kê những trường hợp này trong phần xác thực chat nhưng không nêu rõ phản hồi sẽ ra sao; ghi chú về schema của AIHubMix cho biết lượt model cuối cùng sẽ trả về lỗi. Hãy kiểm thử nếu mã của bạn phụ thuộc vào việc điền sẵn.

Gọi công cụ được viết dưới dạng văn bản

Nếu system prompt yêu cầu model viết các lệnh gọi công cụ JSON dưới dạng văn bản thuần mà không khai báo công cụ, Google cho biết Neon “có thể trả về MALFORMED_FUNCTION_CALL”. Hãy khai báo công cụ theo cách gốc hoặc dùng đầu ra có cấu trúc.

Giới hạn đầu ra trên AIHubMix: 65,536 token

Trên API riêng của Google, một phản hồi đơn lẻ của Neon bị giới hạn ở 65,536 token đầu ra, dù có truyền phát hay không. Câu trả lời dài hơn sử dụng chế độ giải mã dài: quá trình tạo tiếp tục theo các đoạn 64K, tối đa 1,048,576 token trừ đi phần đầu vào, thông qua Interactions API hoặc GenerateContent v1beta1. SDK của Google có thể tự động xử lý các token tiếp nối từ những phiên bản sau: Python google-genai 2.34.0 và JavaScript @google/genai 2.32.0 cho Interactions API.

Google cũng cho biết “các phiên bản SDK cũ hơn và lớp tương thích OpenAI không thể truy xuất các phần hoàn tất dài bằng token tiếp nối”.

Schema tham số của AIHubMix dành cho gemini-4-neon giới hạn đầu ra ở 65,536 token trên mọi giao thức được hỗ trợ: Chat Completions, Responses, Anthropic Messages và Gemini gốc. Schema cũng liệt kê trường continuationToken của Google trên giao thức Gemini gốc; AIHubMix cũng giới thiệu SDK gốc của Google và Interactions API nói chung. Chế độ giải mã dài cho Neon qua đường này chưa được kiểm thử cho bài viết này. Cho đến khi xác nhận tính năng hoạt động, hãy thiết kế hệ thống với giả định một phản hồi tối đa 65,536 token, tính cả phần suy nghĩ. Nếu cần nhiều hơn, hãy tự chia nhỏ tác vụ, chẳng hạn mỗi yêu cầu xử lý một tệp hoặc một mục.

Các quy tắc tính phí dễ bị bỏ sót

Phần suy nghĩ được tính là đầu ra. Mức giá $15 cho mỗi triệu token đầu ra của Neon bao gồm cả token suy nghĩ. Ở mức high, phần lớn đầu ra của một yêu cầu khó có thể là token suy nghĩ.

Grounding bị tính phí hai lần. Google tính “chỉ dẫn hệ thống công cụ nội bộ và khai báo hàm khi sử dụng grounding” là token tính phí, đồng thời tính phí riêng cho từng truy vấn tìm kiếm. Hạn mức riêng của Google gồm 5,000 lượt tìm kiếm miễn phí mỗi tháng, dùng chung cho Gemini 3 trở lên; sau đó là $14 cho mỗi 1,000 lượt. AIHubMix tính phí tìm kiếm web theo yêu cầu; trang model Neon của hãng có niêm yết mức phí.

Bộ nhớ đệm cần thứ tự prompt phù hợp. Mức giảm giá 95% cho bộ nhớ đệm chỉ áp dụng với tiền tố ổn định có ít nhất 4,096 token. Dấu thời gian hoặc tên người dùng ở đầu system prompt sẽ làm mất điều kiện này trong mọi yêu cầu.

Giải mã dài tính phí đầu vào lại (chỉ trên API của Google). “Mỗi đoạn tiếp nối đều xử lý lại prompt cùng các token đã giải mã trước đó”, vì vậy số token đầu vào tăng dần qua từng đoạn. “Các đoạn đã hoàn tất được tính phí khi kết thúc mỗi đoạn, kể cả khi đoạn tiếp theo thất bại hoặc bị hủy.” Điều này không xảy ra khi dùng giới hạn 65,536 token của AIHubMix.

Các bậc giá rẻ hơn là giá của Google. Google cung cấp Neon Batch và Flex với giá $1.50/$7.50, còn Priority có giá $5.40/$27. Schema của AIHubMix chấp nhận service_tier là flex hoặc priority cho Neon nhưng không công bố giá cho các bậc này, và không liệt kê Batch. Hãy lập ngân sách theo giá tiêu chuẩn $3/$15.

Các bước giúp giảm chi phí:

  • Đặt reasoning_effort theo từng loại lệnh gọi: medium cho tương tác và lượt gọi công cụ, high cho lập kế hoạch, chỉ dùng xhigh ở những trường hợp mà đánh giá riêng của bạn cho thấy mức này xứng đáng.
  • Đặt tiền tố prompt tĩnh lên đầu và đảm bảo dài hơn 4,096 token.
  • Chỉ dùng tìm kiếm web ở những lượt cần đến nó.
  • Theo dõi completion_tokens trong thông tin sử dụng; chỉ số này bao gồm phần suy nghĩ, không chỉ câu trả lời hiển thị.

Agent có quyền thực sự

Quy tắc gọi công cụ của Neon rất nghiêm ngặt, đặc biệt quan trọng khi agent có thể ghi tệp hoặc chạy lệnh:

  • Ghép đúng lệnh gọi và kết quả. “Mỗi FunctionResponse phải khớp với id, name và thứ tự của FunctionCall đứng trước nó.”
  • Giữ nguyên toàn bộ lịch sử, bao gồm cả chữ ký. Google: “Truyền lại mọi thought_signature bên trong Part ban đầu của nó qua tất cả các lượt trước đó …” Việc loại bỏ các chữ ký cũ hoặc dùng chỗ giữ chỗ như skip_thought_signature_validator “sẽ làm mất ngữ cảnh suy luận và có thể kích hoạt MALFORMED_FUNCTION_CALL.”
  • Trên Chat Completions, trả lại nguyên trạng các thông điệp assistant. Giữ nguyên chính xác từng thông điệp assistant cùng các lệnh gọi công cụ, như API đã trả về. Đừng dựng lại lịch sử từ nhật ký riêng của bạn. Google có tài liệu về hỗ trợ chữ ký suy nghĩ trên Chat Completions tương thích OpenAI cho các model Gemini 3; hãy kiểm tra để đảm bảo client của bạn giữ lại chúng khi dùng Neon.
  • Cảnh giác với trường hợp dừng âm thầm. Lệnh gọi hàm sai định dạng sẽ kết thúc lượt mà không có câu trả lời dùng được. Các proxy mã nguồn mở đã ghi nhận trường hợp này được chuyển đến client kiểu OpenAI dưới dạng stop thông thường hoặc lỗi máy chủ: pull request 52745 của LiteLLM và issue 60 của Divyam trên GitHub, cả hai đều được mở vào tháng 11 năm 2026. Nếu agent nhận được một lượt trống không có lệnh gọi công cụ, hãy coi đó là lỗi và thử lại, đừng xem như tác vụ đã kết thúc.

Google cho biết Neon hoạt động ổn định hơn các phiên bản trước trong những vòng lặp này. Model “giảm các lần đọc tệp dư thừa, xử lý đáng tin cậy việc cô đọng ngữ cảnh và hạn chế các khẳng định bịa đặt cũng như lối tắt trong tác vụ”, đồng thời giảm “việc agent vượt quá phạm vi và thực hiện chưa đầy đủ”. Đây là các tuyên bố của Google, dựa trên đánh giá riêng của hãng. Chúng giúp giảm rủi ro nhưng không thay thế việc giới hạn quyền và rà soát các thao tác ghi.

Công cụ lập trình: Claude Code và Codex

Schema tham số của AIHubMix liệt kê bốn giao thức cho gemini-4-neon, trong đó có hai giao thức cần cho các agent lập trình: Anthropic Messages cho Claude Code và Responses API cho Codex. Cách thiết lập giống như với mọi model AIHubMix; các bài viết về cài đặt Claude Code và tệp config.toml của Codex hướng dẫn chi tiết. Những điểm riêng của Neon:

Thiết lập Claude Code Codex
Giao thức Anthropic Messages Responses API
ID model gemini-4-neon gemini-4-neon
Các mức effort low đến xhigh low đến xhigh
Cửa sổ ngữ cảnh 1,048,576 1,048,576
Đầu ra mỗi yêu cầu 65,536 65,536

Các mức effort và giới hạn được lấy từ schema tham số của AIHubMix; mức effort mặc định trên cả hai giao thức là high.

Claude Code. Đặt ANTHROPIC_MODEL thành gemini-4-neon. Tăng API_TIMEOUT_MS: giá trị mặc định là 10 phút, còn Google khuyến nghị ít nhất 15 phút cho các prompt khó. Đừng thêm nội dung điền sẵn cho assistant vào các yêu cầu tùy chỉnh qua cùng endpoint; Neon không hỗ trợ việc này.

Codex. Giữ nguyên wire_api = "responses" và base_url của AIHubMix, đặt model = "gemini-4-neon" và chọn model_reasoning_effort trong số các mức của Neon. Bắt đầu với medium; Codex thực hiện nhiều lượt gọi công cụ ngắn, trong đó high chủ yếu làm tăng thời gian chờ.

Các vấn đề đã biết cần lưu ý:

  • Thời gian tạo token đầu tiên lâu ở mức high và xhigh.
  • Phản hồi dừng ở giới hạn 65,536 token khi phần suy nghĩ kéo dài.
  • Các lượt trống do lệnh gọi công cụ thất bại, như đã nêu ở trên.
  • Dữ liệu kiến thức chỉ cập nhật đến tháng 3 năm 2026, nên cần đưa các phiên bản thư viện mới hơn thời điểm đó vào ngữ cảnh.

Kiểm thử nhanh trong 10–15 phút

  1. Chọn một kho mã nhỏ có một bài kiểm thử đơn vị đang thất bại và lệnh chạy kiểm thử hoàn tất trong chưa đầy một phút.
  2. Trỏ công cụ đến gemini-4-neon, đặt effort thành medium và thời gian chờ của client ít nhất 15 phút.
  3. Yêu cầu thay đổi nhỏ nhất có thể để bài kiểm thử chạy thành công. Sau đó chạy kiểm thử và xem diff.
  4. Đạt: diff tối thiểu, kiểm thử thành công trong vòng 15 phút. Không đạt: ghi lại xem bạn gặp lỗi 400, lượt trống, hết thời gian chờ hay chỉnh sửa sai. Mỗi trường hợp đều có cách khắc phục ở trên.
  5. Thử lại ở mức high. Giữ mức thấp hơn, trừ khi high khắc phục được lỗi mà medium mắc phải.

Danh sách kiểm tra

  • Đã đặt ID model thành gemini-4-neon.
  • Đã đặt rõ mức suy nghĩ theo từng loại lệnh gọi; dùng medium nếu trước đây bạn dựa vào mức mặc định của Argon hoặc 3.8 Flash.
  • Không dùng thinking_budget; MINIMAL đã được thay bằng LOW.
  • Mỗi yêu cầu chỉ dùng một trong hai: reasoning_effort hoặc mức suy nghĩ gốc.
  • Không dùng frequency_penalty hay presence_penalty; đặt candidate_count và n ở mức 1 hoặc bỏ qua.
  • Không dùng temperature, top_p hay top_k; dùng đầu ra có cấu trúc khi định dạng quan trọng.
  • Đã xóa mã bộ nhớ đệm tường minh; đặt tiền tố prompt tĩnh lên đầu và dài hơn 4,096 token.
  • Đặt giới hạn đầu ra ở mức tối đa 65,536 trên AIHubMix và xóa mọi giới hạn thấp còn sót lại từ các model cũ.
  • Đặt thời gian chờ của client từ 15 phút trở lên.
  • Lịch sử không bao giờ kết thúc bằng một lượt assistant; không dùng nội dung điền sẵn.
  • Giữ nguyên các lượt assistant và lệnh gọi công cụ như khi nhận được; gom các lệnh gọi song song và kết quả theo đúng thứ tự.
  • Coi các lượt trống không có lệnh gọi công cụ là lỗi và thử lại.
  • Ngân sách có tính đến token suy nghĩ và các yêu cầu tìm kiếm web.
  • Đã kiểm thử nhanh công cụ lập trình ở mức medium và high.

Câu hỏi thường gặp

Tôi có cần thay đổi định dạng yêu cầu để chuyển sang Gemini 4 Neon không?
Nếu chuyển từ một mô hình Gemini 4 khác thì không: Google cho biết schema vẫn giống nhau, vì vậy hãy đổi ID mô hình và kiểm tra mức độ suy luận. Nếu chuyển từ Gemini 3.1 Pro hoặc Gemini 3.8 Flash, hãy bỏ thinking_budget, MINIMAL, các tham số phạt và tính năng lưu vào bộ nhớ đệm tường minh.

Tại sao yêu cầu của tôi tốn nhiều tiền hơn sau khi chuyển từ 3.8 Flash?
Neon có giá cao gấp bốn lần 3.8 Flash và mặc định dùng mức suy luận cao, trong khi 3.8 Flash mặc định ở mức trung bình. Theo số liệu đo của Artificial Analysis, Neon High tốn khoảng gấp đôi Neon Medium cho mỗi tác vụ. Hãy đặt mức này một cách tường minh. Khi chuyển từ Argon, chi phí mỗi tác vụ theo AA giảm ngay cả ở mức cao.

Tại sao Neon trả về lỗi 400 với thinking_budget?
Neon chỉ chấp nhận các mức suy luận được đặt tên: low, medium, high và xhigh. Google từ chối thinking_budget và MINIMAL bằng HTTP 400 thay vì ánh xạ chúng.

temperature còn hoạt động không?
Không. Neon bỏ qua temperature, top_p và top_k; các giá trị ngoài phạm vi sẽ trả về lỗi 400. Thay vào đó, hãy dùng mức suy luận và đầu ra có cấu trúc.

Neon có thể trả về hơn 65,536 token thông qua AIHubMix không?
AIHubMix ghi rõ giới hạn đầu ra 65,536 token cho mỗi yêu cầu đối với Neon, bao gồm cả phần suy luận. Khả năng giải mã dài lên đến khoảng 1M token của Google hoạt động trên API riêng của Google; thông qua AIHubMix, tính năng này không khả dụng trên endpoint tương thích với OpenAI, còn đường dẫn gốc chưa được kiểm thử tại đây.

Tôi có thể dùng Gemini 4 Neon trong Claude Code hoặc Codex không?
Có. AIHubMix liệt kê giao thức Anthropic Messages mà Claude Code sử dụng và Responses API mà Codex sử dụng. Đặt mô hình thành gemini-4-neon, tăng thời gian chờ và chạy một bài kiểm tra nhanh trước.

Gemini 3.1 Pro có bị ngừng cung cấp không?
Google chưa công bố ngày ngừng cung cấp Gemini 3.1 Pro Preview, Gemini 3.8 Flash hay bất kỳ mô hình Gemini 4 nào. Google khuyến nghị Neon là lựa chọn nâng cấp từ 3.1 Pro.

Đọc tiếp: loạt bài Gemini 4 Neon

Nguồn

Một cổng duy nhất tới nhiều nhà cung cấp AI. Sẵn sàng cho môi trường production.

Truy cập AIHubMix