Qwen3.8 miễn phí trên AIHubMix: Khắc phục lỗi 429, "Rate Limited by Provider" và nhóm token bị cạn

Phần lớn sự cố với qwen3.8-max-free và qwen3.8-flash-free đến từ ba nguyên nhân: giới hạn của gói miễn phí, dung lượng dành cho chiến dịch mà GMI Cloud đã đặt riêng ở phía nhà cung cấp, và tốc độ mà token suy luận cùng ngữ cảnh của agent làm cạn nhóm 1M token mỗi ngày. Một số lỗi hiển thị dưới dạng thông báo lỗi. Số khác lại cho ra câu trả lời trông bất thường, hoặc hết hạn mức vào giữa trưa. Bên cạnh đó, các lỗi API thông thường vẫn áp dụng: khóa hoặc ID mô hình sai, ngữ cảnh quá dài, lịch sử tool-call bị hỏng, chế độ JSON và kiểm duyệt nội dung.

Mỗi lỗi đều có cách khắc phục riêng, và một thiết lập có thể xử lý phần lớn chúng: chuyển dự phòng ở cấp khóa (key-level fallback) từ các ID miễn phí sang qwen3.8-max và qwen3.8-flash trả phí. Thiết lập một lần, và khi upstream quá tải, hạn mức đã hết, hay chiến dịch kết thúc vào khoảng 13 tháng 11 năm 2026 (giờ Thái Bình Dương), thì dịch vụ vẫn không bị gián đoạn.

Tóm tắt nhanh

Lỗi từ gói miễn phí và chiến dịch

Lỗi 429 từ giới hạn của gói miễn phí

Hiện tượng. Sau khi nạp từ $1 trở lên, các mô hình miễn phí của AIHubMix cho phép 10 yêu cầu mỗi phút, 100 yêu cầu mỗi ngày và 1M token mỗi ngày, dùng chung cho toàn bộ danh mục miễn phí. "Khi vượt giới hạn, API trả về 429 cho đến khi phút hoặc ngày tiếp theo bắt đầu", theo trang mô hình miễn phí. Tài liệu mã trạng thái HTTP của AIHubMix liệt kê thông báo 429 về tần suất yêu cầu là "The xx model Too many requests; please try again later."

Nguyên nhân. Giới hạn tính theo tài khoản, không theo từng mô hình. Một tác vụ batch chạy trên mô hình miễn phí khác cũng sẽ chiếm cùng phút và cùng ngày đó.

Cách tái hiện. Mười một yêu cầu liên tiếp nhanh chóng chạm giới hạn theo phút. Việc này tiêu tốn 11 trong số 100 yêu cầu mỗi ngày của bạn:

for i in $(seq 1 11); do
  curl -s -o /dev/null -w "%{http_code}\n" https://aihubmix.com/v1/chat/completions \
    -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
    -H "Content-Type: application/json" \
    -d '{"model":"qwen3.8-flash-free","messages":[{"role":"user","content":"hi"}],"max_tokens":16}'
done

Nếu cả 11 yêu cầu rơi vào cùng một phút, mười yêu cầu đầu trả về 200 và yêu cầu thứ mười một trả về 429.

Cách khắc phục. Giữ các tác vụ batch dưới 10 yêu cầu mỗi phút bằng một bộ giới hạn tốc độ đơn giản. Với giới hạn theo ngày, hoặc đợi đến lúc reset, hoặc thiết lập dự phòng (xem bên dưới) để phần vượt mức được chuyển sang mô hình trả phí.

"Rate limited by provider – liên hệ bộ phận hỗ trợ để yêu cầu tăng concurrency hoặc thử lại sau."

Hiện tượng. Trong bài kiểm tra của chính AIHubMix vào ngày 16 tháng 10, một lần gọi qwen3.8-max-free trả về HTTP 429 với nội dung này, trong khi cùng khóa đó vẫn hoạt động bình thường với qwen3.8-flash-free:

{"error":{"message":"Model qwen3.8-max-free rate limited by provider – contact support to request higher concurrency or try again later. (tid: …)","type":"service_unavailable","param":"","code":"rate_limit_exceeded"}}

Tài liệu mã trạng thái của AIHubMix liệt kê cùng thông báo này dưới mã 503, nên hãy kiểm tra cả hai mã.

Nguyên nhân. Các ID miễn phí chạy trên dung lượng mà GMI Cloud đã dành riêng cho chiến dịch. Khi nhiều người gọi Max cùng lúc, nhóm dung lượng upstream đó sẽ đầy trong một thời gian. Đây không phải hạn mức của bạn: các mô hình miễn phí khác vẫn hoạt động với cùng khóa.

Cách khắc phục. Thử lại với backoff lũy thừa (ví dụ 30, 60 và 120 giây). Với các yêu cầu không thể chờ, hãy để fallback chuyển yêu cầu sang qwen3.8-max trả phí. Giữ lại tid nếu bạn liên hệ hỗ trợ; nó xác định yêu cầu đó.

Phản hồi cho biết bản dùng thử của bạn đã hết

Hiện tượng. Không có lỗi nào. Tài khoản mới nhận tổng cộng 10 lượt gọi dùng thử, dùng chung cho mọi mô hình miễn phí. Sau lượt thứ mười, API vẫn trả lời, nhưng nội dung là thông báo rằng bản dùng thử đã hết. Ứng dụng nào hiển thị đầu ra của mô hình cho người dùng sẽ hiện đúng thông báo đó.

Cách khắc phục. Nạp từ $1 trở lên. Việc này sẽ chuyển tài khoản vĩnh viễn sang hạn mức hằng ngày nêu trên.

Timeout khi gọi Max

Hiện tượng. Một yêu cầu không streaming tới qwen3.8-max-free bị treo rồi thất bại với lỗi timeout trong HTTP client, proxy hoặc công cụ của bạn.

Nguyên nhân. Max suy luận trước khi xuất token hiển thị đầu tiên. AIHubMix đo được độ trễ khoảng 55 giây và tốc độ khoảng 9 token mỗi giây trên tuyến miễn phí, nên một câu trả lời 4K token không streaming mất khoảng tám phút mới về đủ. Bất kỳ thành phần nào trên đường đi có thời gian chờ ngắn hơn sẽ ngắt kết nối trước. Fallback không giúp được ở đây: theo quy tắc fallback của AIHubMix, timeout phía client không kích hoạt nó.

Cách khắc phục. Dùng streaming, tăng timeout phía client (timeout=900 trên OpenAI Python client đủ cho các câu trả lời dài), và dùng Flash cho những tác vụ tương tác.

Lỗi API thông thường

Không phải mọi lỗi trên các ID miễn phí đều liên quan đến hạn mức. Những lỗi này xuất hiện thường xuyên không kém, cả trên ID miễn phí lẫn ID trả phí. AIHubMix chuyển tiếp hầu hết lỗi 400 từ mô hình upstream, theo tài liệu mã trạng thái của hãng. Các ID miễn phí chạy trên GMI Cloud, còn các ID trả phí chạy trên Alibaba Cloud, nên nội dung chính xác của lỗi 400 có thể khác nhau giữa hai tuyến. Các thông báo dưới đây được trích từ tài liệu mã trạng thái của AIHubMix và từ tài liệu mã lỗi của Alibaba Cloud.

401: "Unauthorized – access token không hợp lệ hoặc đã hết hạn."

Nguyên nhân. Khóa sai, đã bị thu hồi hoặc đã hết hạn. Nếu hoàn toàn không có header Authorization, thông báo là "Unauthorized – no access token supplied; please log in and include a valid token." Nguyên nhân thường gặp là biến môi trường chưa được đặt trong shell chạy code, khiến khóa rỗng được gửi đi, hoặc khóa của nền tảng khác, chẳng hạn QwenCloud hay GMI Cloud, bị gửi tới AIHubMix.

Cách khắc phục. Kiểm tra biến trong cùng shell: echo ${AIHUBMIX_API_KEY:0:3} phải in ra sk-. Khóa AIHubMix chỉ hoạt động trên https://aihubmix.com/v1, còn khóa của nền tảng khác sẽ không hoạt động ở đó.

503: "Incorrect model ID. Vui lòng yêu cầu xem trang model hoặc bạn không có quyền sử dụng model này"

Nguyên nhân. ID mô hình phải khớp chính xác. Các ID miễn phí là qwen3.8-max-free và qwen3.8-flash-free, toàn bộ viết thường, có dấu gạch ngang trước free. Các ID sao chép từ nền tảng khác, chẳng hạn Qwen/Qwen3.8-Max của GMI Cloud, không tồn tại trên AIHubMix. Có một trường hợp copy-paste không báo lỗi gì: ID qwen3.8-max của QwenCloud là ID hợp lệ trên AIHubMix, nhưng đó là mô hình trả phí, nên yêu cầu sẽ âm thầm bị tính tiền.

Cách tái hiện.

curl -s https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen-3.8-max-free","messages":[{"role":"user","content":"hi"}]}'

Cách khắc phục. Sao chép ID từ trang mô hình. Vì lỗi này trả về mã 503, logic thử lại coi mọi lỗi 5xx là tạm thời sẽ thử lại mãi một lỗi gõ sai; hãy coi thông báo này là vĩnh viễn.

403: "Forbidden – key (6 chữ số cuối của request key) không được phép truy cập model đã yêu cầu."

Nguyên nhân. Khóa AIHubMix có thể bị giới hạn trong một danh sách mô hình. Khóa được tạo cho dự án khác, với danh sách mô hình riêng, sẽ không truy cập được các ID Qwen3.8 miễn phí cho đến khi bạn thêm chúng vào.

Cách khắc phục. Chỉnh sửa khóa trong phần quản lý API key và thêm qwen3.8-max-free cùng qwen3.8-flash-free. Nếu bạn đã thiết lập fallback, hãy thêm cả các ID trả phí dự phòng: fallback sẽ bỏ qua các mô hình nằm ngoài danh sách của khóa.

400: "Phạm vi độ dài đầu vào phải nằm trong khoảng [1, xxx]"

Nguyên nhân. Đây là thông báo của Alibaba khi đầu vào vượt giới hạn ngữ cảnh của mô hình; con số thay cho xxx chính là giới hạn đó. Phiên làm việc của agent là nguyên nhân thường gặp, vì lịch sử tăng lên sau mỗi lượt. Alibaba cũng lưu ý rằng prompt dài khi bật suy luận có thể gây cắt ngắn phản hồi hoặc hết thời gian chờ yêu cầu.

Cách khắc phục. Cắt bớt lịch sử, bắt đầu phiên mới cho tác vụ mới, hoặc bật tính năng nén ngữ cảnh của công cụ. Tuy nhiên hãy cắt cẩn thận, nếu không bạn sẽ gặp lỗi tiếp theo.

400: messages có role "tool" phải là phản hồi cho một message trước đó có "tool_calls"

Tài liệu của Alibaba liệt kê thông báo này, kèm cả lỗi gõ sai, cùng với thông báo đối xứng của nó: "An assistant message with "tool_calls" must be followed by tool messages responding to each "tool_call_id"". Người dùng Qwen Code đã báo cáo thông báo đầu tiên trong issue #2360.

Nguyên nhân. Lịch sử gửi cho mô hình có một kết quả tool mà lệnh gọi tool tương ứng đã bị cắt bỏ, hoặc có một lệnh gọi tool mà kết quả bị thiếu. Việc tự cắt tỉa lịch sử và nén ngữ cảnh là những thủ phạm thường gặp.

Cách khắc phục. Coi một lệnh gọi tool và các kết quả của nó là một khối thống nhất. Mỗi tool_call_id trong một tin nhắn assistant cần có một tin nhắn tool khớp ngay sau nó:

messages = [
    {"role": "user", "content": "What's the weather in Hangzhou?"},
    {"role": "assistant", "content": None, "tool_calls": [{
        "id": "call_1", "type": "function",
        "function": {"name": "get_weather", "arguments": "{\"city\": \"Hangzhou\"}"},
    }]},
    {"role": "tool", "tool_call_id": "call_1", "content": "{\"temp_c\": 21}"},
]
# When trimming, drop messages[1] and messages[2] together, never just one of them.

400: JSON mode

Tài liệu mã lỗi của Alibaba liệt kê hai lỗi chế độ JSON:

• "'messages' phải chứa từ 'json' dưới dạng nào đó để sử dụng 'response_format' với kiểu 'json_object'."
• "Phản hồi ở chế độ Json không được hỗ trợ khi enable_thinking là true"

Nguyên nhân. Lỗi đầu tiên tuân theo quy tắc giống chế độ JSON của OpenAI: prompt phải nhắc đến JSON. Lỗi thứ hai quan trọng hơn với Qwen3.8, nơi suy luận được bật mặc định, nên một yêu cầu json_object hoạt động tốt trên mô hình khác có thể thất bại ở đây. Tài liệu của Alibaba không liệt kê mô hình nào trả về thông báo thứ hai, nên hãy kiểm thử trên ID bạn đang dùng.

Cách khắc phục. Nhắc đến JSON trong prompt, và tắt suy luận cho các lệnh gọi chế độ JSON:

curl -s https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3.8-flash-free",
    "messages": [{"role": "user", "content": "Reply in JSON with the city and date: meet in Hangzhou on Nov 3."}],
    "response_format": {"type": "json_object"},
    "enable_thinking": false
  }'

400: "Input data may contain inappropriate content."

Nguyên nhân. Mã lỗi là data_inspection_failed. Alibaba Cloud kiểm tra đầu vào và đầu ra trên các mô hình mà họ lưu trữ, bao gồm cả các ID trả phí mà fallback chuyển yêu cầu tới. Các biến thể thông báo khác là "Output data may contain inappropriate content." hoặc "Input or output data may contain inappropriate content." Văn bản do người dùng tạo, chẳng hạn trang web đã thu thập hoặc ticket hỗ trợ được dán vào prompt, là nguyên nhân thường gặp nhất.

Cách khắc phục. Tìm đoạn gây lỗi bằng cách chia nhỏ đầu vào, rồi lọc hoặc diễn đạt lại đoạn đó. Gửi lại cùng một đầu vào sẽ nhận được cùng kết quả.

Lỗi âm thầm: nhóm token bị cạn

Không có lỗi nào cho đến khi nhóm 1M token hết, rồi mọi yêu cầu cùng trả về 429 một lúc. Có ba yếu tố làm nhóm token cạn nhanh hơn dự kiến.

Token suy luận

Cả hai model đều suy luận theo mặc định, và Alibaba tính phần suy luận như output token; trên tuyến miễn phí, các token này được tính vào hạn mức hằng ngày của bạn. Trong bài kiểm thử của AIHubMix, một câu trả lời hai câu từ qwen3.8-flash-free đã dùng 89 output token, trong đó 36 token dành cho suy luận. Max suy luận nhiều hơn: Artificial Analysis đo được model này dùng 190M output token trên chỉ số của họ, so với mức trung vị 87M.

Với các tác vụ trích xuất, định dạng và tra cứu ngắn, hãy tắt suy luận. enable_thinking là công tắc được Alibaba ghi trong tài liệu dành cho Qwen3.8; khi dùng OpenAI SDK, tham số này được đặt trong extra_body:

resp = client.chat.completions.create(
    model="qwen3.8-flash-free",
    messages=[{"role": "user", "content": "Return only the invoice number: INV-2026-0042, due Nov 3"}],
    extra_body={"enable_thinking": False},
)
print(resp.choices[0].message.content)
print(resp.usage.completion_tokens_details)

Hãy kiểm tra reasoning_tokens trong khối usage giảm về 0. Nếu không, công tắc chưa đến được model trên tuyến đó, và phần suy luận vẫn đang bị tiêu tốn.

Vòng lặp agent gửi lại ngữ cảnh

Các coding agent gửi toàn bộ cuộc hội thoại, bao gồm nội dung file và kết quả tool, trong mỗi lượt. Một phiên đã tăng lên 40K token, chạy thêm 20 lượt, sẽ gửi đi 800K input token: phần lớn hạn mức trong ngày trước khi tính bất kỳ output nào. Hãy giới hạn context window trong cài đặt model của công cụ, mở phiên mới cho các tác vụ mới, và dùng compaction nếu công cụ có hỗ trợ.

Một request quá lớn

Max và Flash đều chấp nhận 1M token ngữ cảnh, bằng đúng kích thước hạn mức hằng ngày. Một request duy nhất lấp đầy cửa sổ ngữ cảnh có thể dùng hết cả ngày.

Khi chiến dịch kết thúc

Thời gian miễn phí kết thúc vào khoảng ngày 13 tháng 11 năm 2026 (giờ Thái Bình Dương), hoặc sớm hơn nếu tín dụng chiến dịch của GMI Cloud hết. Sau thời điểm đó, các ID -free sẽ không còn miễn phí. Mã đã tự động chuyển sang ID trả phí dự phòng vẫn tiếp tục hoạt động. Mã gọi trực tiếp các ID miễn phí cần một thay đổi: bỏ -free khỏi tên model.

Thiết lập fallback một lần

AIHubMix có thể chuyển model ở tầng gateway khi model chính gặp lỗi, được cấu hình theo từng API key, mà không cần thay đổi mã của bạn. Model mapping và fallback trình bày đầy đủ các quy tắc. Với các ID Qwen3.8 miễn phí:

1. Mở phần quản lý API key trong console của AIHubMix và chỉnh sửa key mà ứng dụng của bạn đang dùng.
2. Tại mục "Fallback models on error", thêm qwen3.8-max làm mục đầu tiên và qwen3.8-flash làm mục thứ hai.
3. Tiếp tục gọi qwen3.8-max-free trong mã của bạn.

Không đưa các ID miễn phí vào danh sách dự phòng. Một model miễn phí chỉ có thể là model chính; trong danh sách dự phòng, nó sẽ bị bỏ qua một cách âm thầm.

Các request fallback được tính theo giá của model trả phí, vì vậy hãy giữ một khoản số dư trên tài khoản. Nếu các request fallback bắt đầu thất bại với lỗi 403 "Your account balance is insufficient. Please recharge your account to continue using the API.", hãy nạp tiền: fallback không thể vượt qua số dư của chính bạn. Khi số dư xuống dưới -$1, các model miễn phí cũng sẽ ngừng hoạt động cho đến khi bạn nạp tiền.

Để biết model nào đã trả lời, hãy đọc các response header:

curl -s -i https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen3.8-max-free","messages":[{"role":"user","content":"hi"}]}' \
  | grep -i -E 'x-aihubmix-(model|fallback)'

X-Aihubmix-Fallback: true nghĩa là request đã được fallback. X-Aihubmix-Model cho biết model nào đã trả lời, cũng là model bạn bị tính phí.

Công cụ lập trình

Mọi công cụ hỗ trợ provider tương thích OpenAI đều dùng được với các ID miễn phí, bao gồm OpenCode, Cline, Kilo Code, Qwen Code và Hermes Agent. AIHubMix có trang hướng dẫn thiết lập cho từng công cụ; hướng dẫn OpenCode là điểm khởi đầu phù hợp. Các giá trị giống nhau ở mọi công cụ:

Có hai vấn đề đã biết áp dụng cho mọi công cụ. Vòng lặp agent làm cạn shared token pool, như đã mô tả ở trên. Và độ trễ dài của Max khiến nó chậm khi làm model chính trong một agent tương tác. Các công cụ cho phép chọn model riêng cho lập kế hoạch và chỉnh sửa, chẳng hạn chế độ Plan và Act của Cline, có thể đặt Max cho việc lập kế hoạch và Flash cho các chỉnh sửa.

Kiểm tra nhanh trong 15 phút. Trỏ công cụ của bạn tới qwen3.8-flash-free và yêu cầu nó thêm một unit test cho một hàm nhỏ trong một repository thực tế, sau đó chạy test. Kết quả thành công trông như sau: agent đọc file, viết test, chạy nó thông qua một lệnh gọi tool, và log usage của AIHubMix hiển thị các request dưới model miễn phí với chi phí $0. Sau đó, lặp lại bước lập kế hoạch trên qwen3.8-max-free và kiểm tra thời gian cùng số token nó đã dùng.

Danh sách kiểm tra

• Đã nạp từ $1 trở lên, để hạn mức hằng ngày thay thế 10 lần gọi dùng thử
• Model ID được sao chép chính xác từ trang model, và đã được bật trên key
• Các batch job được giới hạn dưới 10 request mỗi phút
• Request Max dùng streaming, với client timeout từ 10 phút trở lên
• Tắt suy luận cho các request đơn giản, và đã kiểm tra reasoning_tokens
• Ngữ cảnh agent đã được giới hạn, với phiên mới cho tác vụ mới
• Việc cắt tỉa lịch sử giữ mỗi tool call cùng với kết quả của nó
• Các lệnh gọi ở chế độ JSON có nhắc đến JSON và chạy với suy luận tắt
• Fallback đặt là qwen3.8-max, rồi đến qwen3.8-flash
• Còn một khoản số dư cho các request fallback
• Đã đặt nhắc nhở vào khoảng ngày 13 tháng 11, khi thời gian miễn phí kết thúc

Câu hỏi thường gặp

Vì sao tôi nhận lỗi 429 trên qwen3.8-max-free dù chưa dùng nhiều?
Có thể một model miễn phí khác trên tài khoản của bạn đã dùng hết giới hạn chung theo phút hoặc theo ngày, hoặc năng lực upstream của chiến dịch đang bận. Thông báo lỗi cho biết nguyên nhân: "rate limited by provider" nghĩa là lỗi từ upstream.

Vì sao yêu cầu của tôi trả về "Incorrect model ID"?
Tên model không khớp chính xác với một ID của AIHubMix. Hãy dùng qwen3.8-max-free hoặc qwen3.8-flash-free, viết thường toàn bộ; các ID từ GMI Cloud hoặc nền tảng khác không tồn tại ở đây. Lỗi này trả về mã 503, vì vậy hãy đảm bảo logic retry không thử lại liên tục.

Fallback có tốn tiền không?
Chỉ khi nó xảy ra. Một request được fallback sẽ được tính theo giá của model trả phí đã trả lời.

Tôi có thể đưa qwen3.8-flash-free vào danh sách fallback không?
Không. Model miễn phí chỉ có thể là model chính; AIHubMix bỏ qua chúng trong danh sách dự phòng.

Làm sao để suy luận không tiêu tốn token miễn phí của tôi?
Truyền enable_thinking với giá trị false trong extra_body cho các request không cần suy luận, và kiểm tra reasoning_tokens giảm về 0 trong khối usage.

Vì sao coding agent của tôi tiêu hết hạn mức hằng ngày nhanh vậy?
Agent gửi lại toàn bộ cuộc hội thoại trong mỗi lượt. Hãy giới hạn context window, mở phiên mới cho tác vụ mới, và dùng Flash làm model agent chính.

Điều gì xảy ra với các ID miễn phí sau ngày 13 tháng 11?
Chúng sẽ không còn miễn phí, và có thể sớm hơn nếu tín dụng chiến dịch của GMI Cloud hết. Hãy chuyển sang qwen3.8-max hoặc qwen3.8-flash, hoặc dựa vào fallback bạn đã thiết lập.

Đọc tiếp: loạt bài Qwen3.8 Free

• Để xem quy tắc hạn mức, ngày kết thúc và yêu cầu đầu tiên hoạt động: Free Qwen3.8 Max và Flash API trên AIHubMix: Giới hạn, ngày kết thúc và lần gọi đầu tiên của bạn
• Để tránh chờ đợi của Max với các tác vụ Flash có thể xử lý: Qwen3.8 Max Free so với Qwen3.8 Flash Free: Flash có đủ không?

Nguồn tham khảo

• Mã trạng thái HTTP (tài liệu AIHubMix)
• Model mapping và fallback (tài liệu AIHubMix)
• Model AI miễn phí và hạn mức (AIHubMix)
• Mã lỗi (Alibaba Cloud Model Studio)
• Sử dụng model suy luận sâu qua API (Alibaba Cloud Model Studio)