Міграція на Qwen4-Max: обмеження виводу, мислення та налаштування агента

AIHubMix4 хв читання
Міграція на Qwen4-Max: обмеження виводу, мислення та налаштування агента

Перехід із Qwen3.8-Max на Qwen4-Max змінює більше, ніж лише ID моделі. Обидві моделі мають контекст на мільйон токенів, але ліміт виводу, розрахований раніше на відповідь, тепер охоплює і мислення. Змінюється стандартний рівень зусиль, а агенти мають правильно зберігати історію міркувань під час викликів інструментів.

Почніть з одного запиту Chat Completions, а потім виконайте невелике завдання в репозиторії. Перевірте відповідь, причину зупинки, історію та отриманий diff, перш ніж переносити наявний робочий процес.

Перерахуйте ліміт виводу

Довідка Chat Completions визначає max_tokens для Qwen4-Max як еквівалент max_completion_tokens: обидва параметри обмежують мислення та фінальну відповідь разом. У Qwen3.8-Max параметр max_tokens охоплює лише відповідь.

Отже, ліміт у 300 токенів не резервує 300 токенів для видимої відповіді. Міркування можуть спершу вичерпати бюджет, потенційно залишивши порожню або неповну відповідь. Якщо відповідь завершується з finish_reason: "length", на це варто звернути увагу, навіть коли HTTP-запит успішний. Перейменування параметра без збільшення значення нічого не змінює.

У нових інтеграціях використовуйте max_completion_tokens і передбачте запас для обох частин. У режимі мислення Qwen4-Max підтримує до 262,144 вихідних токенів разом, а в режимі без мислення — до 131,072. Контекстне вікно на 1,000,000 токенів не означає, що до максимальної кількості вихідних токенів можна додати стільки ж вхідних: вхідні й вихідні токени разом мають уміститися в контекст.

Виберіть рівень зусиль або бюджет мислення

У Qwen4-Max доступні рівні low, high і xhigh, а за замовчуванням використовується high. Якщо не вказати жоден із двох параметрів керування, вибирається high і бюджет мислення на 131,072 токени. Це граничне значення, а не прогноз кількості використаних токенів.

Значення двох успадкованих налаштувань змінюється: high тепер означає high, а не відповідає xhigh, як у Qwen3.8-Max; medium відповідає high. Інші відповідності: minimal — low, max — xhigh, а none — вимкнене мислення.

Надсилайте або reasoning_effort, або thinking_budget. В офіційній довідці заборонено поєднувати ці параметри, а бюджет має бути додатним цілим числом: нуль не вимикає мислення. Якщо вказано лише бюджет, значення 1–4,096 відповідає low, 4,097–131,072 — high, а 131,073–262,144 — xhigh; указаний бюджет зберігається.

Почніть із зазначеного ендпоінта

Посібник AIHubMix із моделей указує для qwen4-max ендпоінт POST /v1/chat/completions. Це початковий запит, а не виміряний результат:

curl -sS https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen4-max",
    "max_completion_tokens": 16384,
    "messages": [{"role": "user", "content": "Write a Python function that returns unique items in their original order, with two tests."}]
  }'

Ліміт виводу відповідає задокументованим умовам Alibaba. За бажанням можна додати reasoning_effort: "low" без бюджету мислення; передачу параметра тут не перевіряли. Підтримку можливостей з боку AIHubMix не підтверджено. Перш ніж покладатися на налаштування, перевірте фактичну відповідь і використання токенів.

Зберігайте історію, потрібну вашому агенту

Якщо повне мислення ввімкнено, зберігайте reasoning_content окремо від content в історичних повідомленнях асистента, зокрема й у ходах із викликами інструментів. У Qwen4-Max за замовчуванням увімкнено preserve_thinking; повернута історія зараховується як вхідні дані й оплачується. Серіалізатор, який зберігає лише видимий текст, втрачає частину цієї історії.

Alibaba також пропонує підсумки мислення та шифрування. Якщо ввімкнути цю функцію за допомогою thinking_display: "summarized" у кожному запиті, reasoning_content перетворюється на підсумок для відображення, а encrypted_content містить історію міркувань. Повторно надсилайте зашифрований вміст без змін: підсумок не може його замінити. Клієнти потокової передачі мають зберігати окремий зашифрований кадр, навіть якщо він не містить видимого тексту.

Цей режим підсумків задокументовано в Alibaba. Його роботу через AIHubMix не перевірено, тож спершу налагодьте збереження звичайної історії розмови.

Перш ніж оцінювати економію, перевірте кешування

У явному кеші Qwen4 від Alibaba підтримуються ручні й автоматичні контрольні точки з TTL 5 хвилин або 1 година. Префікс для кешування має містити щонайменше 1,024 токени. Запис у кеш коштує приблизно 125% або 200% від звичайного введення відповідно; повторні записи не дають безкоштовної економії.

Спочатку розміщуйте незмінні системні інструкції, визначення інструментів і матеріали репозиторію, а потім — запитання, що змінюються. Якщо параметри кешування не задані, звичайне неявне кешування не гарантує влучень у кеш. Перш ніж вважати, що агент отримує від цього переваги, перевірте використання кешу для читання й запису та рахунок. Керування кешем від цього провайдера не перевіряли через AIHubMix.

Інструменти для кодування: перевірте виконання повного завдання

Дотримуйтеся посібника AIHubMix із налаштування Qwen Code, щоб установити й автентифікуватися. Укажіть OPENAI_BASE_URL=https://aihubmix.com/v1, OPENAI_MODEL=qwen4-max, а ключ передайте через OPENAI_API_KEY. Використайте /status, щоб підтвердити вибрану модель; також перевірте налаштування контексту й виводу в клієнті.

Для Claude Code потрібен Anthropic Messages, а для Codex — Responses. Alibaba документує ці протоколи, але в посібнику AIHubMix із Qwen4-Max зазначено лише Chat Completions. Тут не підтверджено, що вони доступні через цей шлюз.

Виконайте наведений нижче список перевірок міграції в тестовому репозиторії:

  1. Переконайтеся, що модель і ендпоінт правильні; перевірте текст відповіді, finish_reason і використання токенів у базовому запиті.
  2. Приберіть успадковані ліміти, що охоплюють лише відповідь, і несумісні параметри керування мисленням. Якщо відповідь обрізано, повторіть запит із більшим запасом; перевірте, що відповідь повна.
  3. Виправте один невдалий тест у двох файлах. Успішний результат означає, що справжній виклик інструменту завершується, тести проходять, а diff містить лише передбачені зміни.
  4. Поставте уточнювальне запитання, відповідь на яке залежить від першого ходу. Перевірте збережену історію асистента й інструментів, а також будь-яке ущільнення контексту; переконайтеся, що потрібний контекст зберігся.
  5. Повторіть перевірку з вибраним рівнем зусиль. Порівняйте прийняті патчі, загальну кількість токенів і повторні спроби. Перш ніж оцінювати регулярні витрати, окремо перевірте використання кешу.

Запитання й відповіді

Який ID моделі використовувати в AIHubMix?
Використовуйте qwen4-max із зазначеним ендпоінтом Chat Completions.

Чому успішний запит може повернути неповну відповідь?
Мислення й відповідь використовують спільний ліміт виводу. Перевірте, чи має finish_reason значення length, і за потреби збільште спільний ліміт.

Чи усуне обрізання відповідей перехід на max_completion_tokens?
Сам по собі — ні. У Qwen4-Max цей параметр має те саме значення, що й max_tokens; потрібно задати достатній ліміт.

Чи можна одночасно задати рівень зусиль і бюджет мислення?
Ні. Виберіть щось одне. Бюджет мислення має бути додатним; щоб вимкнути мислення, задайте reasoning_effort зі значенням none.

Чи слід повторно надсилати підсумок мислення як історію міркувань?
Ні. У режимі підсумків зберігайте й повторно надсилайте encrypted_content без змін. Підсумок для відображення не може його замінити.

Чи можна вважати, що Claude Code або Codex працюватимуть через AIHubMix?
Сумісність цього модельного шлюзу з потрібними їм протоколами тут не підтверджено. Спершу перевірте відповідний ендпоінт і виконання повного робочого процесу з інструментами.

Читайте далі: серія Qwen4-Max

Джерела

  1. Alibaba Cloud: технічні характеристики моделі Qwen4-Max і Qwen3.8-Max.
  2. Alibaba Cloud: параметри Chat Completions.
  3. Alibaba Cloud: підсумок мислення та шифрування.
  4. Alibaba Cloud: явний кеш для Qwen4.
  5. AIHubMix: посібник із моделі Qwen4-Max і налаштування Qwen Code.

Джерела перевірено 17 листопада 2026 року. Для цієї статті платних тестів інференсу не проводили.

Один шлюз до багатьох провайдерів ШІ. Створено для продакшену.

Перейти на AIHubMix