Миграция на Qwen4-Max: лимиты вывода, thinking mode и настройка агента

AIHubMix4 мин чтения
Миграция на Qwen4-Max: лимиты вывода, thinking mode и настройка агента

Переход с Qwen3.8-Max на Qwen4-Max меняет не только ID модели. У обеих моделей контекстное окно на миллион токенов, но теперь лимит вывода, который раньше рассчитывался только на ответ, расходуется ещё и на thinking. Меняется значение reasoning effort по умолчанию, а агентам нужно правильно сохранять историю рассуждений при вызовах инструментов.

Начните с одного запроса Chat Completions, а затем выполните небольшую задачу в репозитории. Прежде чем переносить существующий сценарий, проверьте ответ, причину остановки, историю и получившийся diff.

Пересчитайте лимит вывода

Справочник Chat Completions указывает, что параметр max_tokens в Qwen4-Max равнозначен max_completion_tokens: оба ограничивают суммарный объём thinking и итогового ответа. В Qwen3.8-Max max_tokens ограничивает только ответ.

Поэтому лимит в 300 токенов не означает, что 300 токенов отведено на видимый ответ. Сначала весь бюджет может уйти на рассуждения, и ответ окажется пустым или неполным. Если ответ завершается с finish_reason: "length", на это нужно обратить внимание, даже если HTTP-запрос выполнен успешно. Простая замена имени параметра без увеличения значения ничего не меняет.

В новых интеграциях используйте max_completion_tokens и предусмотрите запас для обеих частей. В режиме thinking Qwen4-Max поддерживает до 262,144 выходных токенов суммарно, а в режиме без thinking — до 131,072. Контекстное окно на 1,000,000 токенов не является входным лимитом, к которому можно прибавить максимальный вывод: вход и вывод вместе должны помещаться в контекст.

Выберите reasoning effort или бюджет thinking

Qwen4-Max поддерживает уровни low, high и xhigh; по умолчанию используется high. Если не указать ни один из параметров управления, модель выберет high и бюджет thinking в 131,072 токена. Это верхний предел, а не прогноз расхода токенов.

Значение двух унаследованных настроек изменилось: теперь high означает high, а не преобразуется в xhigh, как в Qwen3.8-Max; medium преобразуется в high. Остальные преобразования: minimal в low, max в xhigh, а none отключает thinking.

Укажите либо reasoning_effort, либо thinking_budget. Согласно официальному справочнику, комбинировать их нельзя, а значение бюджета должно быть положительным целым числом: ноль не отключает thinking. Если указан только бюджет, значения 1–4,096 соответствуют уровню low, 4,097–131,072 — high, а 131,073–262,144 — xhigh; заданное значение бюджета при этом сохраняется.

Начните с указанного эндпоинта

Руководство AIHubMix по модели указывает для qwen4-max эндпоинт POST /v1/chat/completions. Это пример начального запроса, а не результат измерений:

curl -sS https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen4-max",
    "max_completion_tokens": 16384,
    "messages": [{"role": "user", "content": "Write a Python function that returns unique items in their original order, with two tests."}]
  }'

Лимит вывода соответствует спецификации Alibaba. При желании можно добавить reasoning_effort: "low" без бюджета thinking; передача параметра не проверялась. Возможности, указанные в AIHubMix, также не подтверждены. Прежде чем полагаться на настройку, проверьте фактический ответ и данные об использовании.

Сохраняйте историю, необходимую агенту

При использовании полного thinking храните reasoning_content из предыдущих сообщений ассистента отдельно от content, в том числе для ходов с вызовами инструментов. В Qwen4-Max по умолчанию включён preserve_thinking; возвращаемая история учитывается как вход и оплачивается. Если сериализатор сохраняет только видимый текст, часть истории теряется.

Alibaba также предлагает сводки thinking и шифрование. Если включить их с параметром thinking_display: "summarized" в каждом запросе, reasoning_content будет содержать сводку для отображения, а encrypted_content — историю рассуждений. Передавайте шифротекст без изменений: сводка его не заменяет. Клиенты потоковой передачи должны сохранять отдельный зашифрованный фрейм, даже если в нём нет видимого текста.

Этот режим сводок описан в документации Alibaba. Его прохождение через AIHubMix не проверялось, поэтому сначала убедитесь, что обычный диалог продолжается корректно.

Проверьте кэширование, прежде чем прогнозировать экономию

Явное кэширование Qwen4 от Alibaba поддерживает ручные и автоматические точки разбиения, а также TTL на 5 минут или 1 час. Кэшируемый префикс должен содержать не менее 1,024 токенов. Запись в кэш стоит примерно 125% или 200% от обычного ввода соответственно; повторные записи не дают бесплатной экономии.

Сначала размещайте стабильные системные инструкции, определения инструментов и материалы репозитория, а затем — меняющиеся вопросы. Если параметры кэширования не заданы, обычное неявное кэширование не гарантирует попаданий в кэш. Прежде чем рассчитывать на выгоду для агента, проверьте данные о чтении и записи в кэш, а также счёт. Эти настройки кэша провайдера не проверялись через AIHubMix.

Инструменты для программирования: проверьте выполнение одной задачи целиком

Следуйте руководству AIHubMix по Qwen Code, чтобы установить и настроить аутентификацию. Задайте OPENAI_BASE_URL=https://aihubmix.com/v1 и OPENAI_MODEL=qwen4-max, а ключ передайте через OPENAI_API_KEY. Используйте /status, чтобы проверить выбранную модель; также проверьте настройки контекстного окна и вывода в клиенте.

Для Claude Code нужен протокол Anthropic Messages, а для Codex — Responses. Alibaba документирует эти протоколы, но в руководстве AIHubMix по Qwen4-Max указан только Chat Completions. Их доступность через этот шлюз здесь не подтверждена.

Выполните этот контрольный список миграции в тестовом репозитории:

  1. Проверьте модель и эндпоинт; изучите текст ответа, finish_reason и данные об использовании в базовом запросе.
  2. Удалите унаследованные лимиты, рассчитанные только на ответ, и конфликтующие настройки thinking. Если ответ обрезан, повторите запрос с большим запасом и проверьте ответ целиком.
  3. Исправьте один падающий тест в двух файлах. Задача считается выполненной, если вызов инструмента действительно отрабатывает, тесты проходят, а diff содержит только нужные изменения.
  4. Задайте уточняющий вопрос, для ответа на который нужна информация из первого хода. Проверьте сохранённую историю ассистента и инструментов, а также любое сжатие контекста; убедитесь, что нужный контекст сохранился.
  5. Повторите задачу с выбранным уровнем reasoning effort. Сравните принятые патчи, общее число токенов и количество повторных попыток. Прежде чем оценивать регулярные затраты, отдельно проверьте использование кэша.

FAQ

Какой ID модели использовать в AIHubMix?
Используйте qwen4-max с указанным эндпоинтом Chat Completions.

Почему успешный запрос может вернуть неполный ответ?
На thinking и ответ действует общий лимит вывода. Проверьте, не равно ли значение finish_reason значению length, и при необходимости увеличьте общий лимит.

Поможет ли переход на max_completion_tokens избежать обрезания ответа?
Сам по себе — нет. В Qwen4-Max этот параметр означает то же, что max_tokens; нужно задать значение, которого хватит для ответа.

Можно ли одновременно задать reasoning effort и бюджет thinking?
Нет. Выберите что-то одно. Бюджет thinking должен быть положительным; чтобы отключить thinking, используйте reasoning_effort none.

Нужно ли передавать сводку thinking как историю рассуждений?
Нет. В режиме сводки сохраняйте и передавайте обратно encrypted_content без изменений. Сводка для отображения не может его заменить.

Можно ли считать, что Claude Code или Codex будут работать через AIHubMix?
Работа необходимых им протоколов с этой моделью здесь не подтверждена. Сначала проверьте нужный эндпоинт и полный сценарий с вызовом инструментов.

Читайте дальше: серия Qwen4-Max

Источники

  1. Alibaba Cloud: технические характеристики Qwen4-Max и Qwen3.8-Max.
  2. Alibaba Cloud: параметры Chat Completions.
  3. Alibaba Cloud: сводки thinking и шифрование.
  4. Alibaba Cloud: явное кэширование для Qwen4.
  5. AIHubMix: руководство по модели Qwen4-Max и настройка Qwen Code.

Источники проверены 17 ноября 2026 года. Платные тесты инференса для этой статьи не проводились.

Один шлюз ко многим провайдерам ИИ. Создан для продакшена.

Перейти на AIHubMix