Gemini 4 Argon: Уровни мышления и длинное декодирование: настройки по умолчанию, затраты и когда использовать каждый из них

AIHubMix8 мин чтения
Gemini 4 Argon: Уровни мышления и длинное декодирование: настройки по умолчанию, затраты и когда использовать каждый из них

Gemini 4 Argon стал общедоступным 13 октября 2026 года, и вместе с ним Google задокументировал две настройки, которые определяют, сколько стоит запрос Argon и сколько времени он занимает: уровень мышления и лимит вывода. Argon предлагает три уровня мышления: низкий, средний и высокий, при этом по умолчанию установлен средний. Ответы останавливаются на 64K токенах, если вы не включите длинное декодирование, которое позволяет одному ответу достигать 1M токенов.

Есть один нюанс в настройках по умолчанию. Все опубликованные бенчмарки Argon работали на высоком уровне: Google оценивал его "с самыми высокими настройками мышления", Artificial Analysis тестировал его на высоком уровне, а Vals AI запускал его на высоком уровне. Запрос, который не устанавливает уровень, работает на среднем, поэтому это не конфигурация, которую описывают эти оценки.

В этом посте рассматриваются три уровня и советы Google по каждому из них, сколько стоит высокий уровень в токенах и времени, как установить лимит вывода, чтобы ответы не приходили пустыми, и как работает длинное декодирование и как оно тарифицируется. Завершает пост код для AIHubMix.

Краткая версия

  • Argon имеет три уровня мышления: низкий, средний (по умолчанию) и высокий. Отключить мышление нельзя.
  • Все опубликованные бенчмарки использовали высокий уровень. Никто не публиковал результаты на среднем или низком.
  • max_output_tokens ограничивает мышление и ответ вместе. Установите его как минимум на 32,768, иначе жесткий запрос может потратить весь бюджет на мышление и не вернуть ничего.
  • Без длинного декодирования ответ останавливается на 65,536 токенах. С ним ответ может достигать 1,048,576 токенов за вычетом вашего ввода.
  • Длинное декодирование тарифицирует каждый токен каждого 64K "прыжка", и каждый прыжок повторно считывает все, что было написано до сих пор, как ввод, с 95% скидкой за счет неявного кэширования.

Три уровня

Руководство Google Что нового в Gemini 4 Argon описывает уровни следующим образом:

Уровень Использование токенов Google рекомендует для
низкий Наименьшее количество токенов, наименьшая задержка Проще и чувствительно к затратам работа
средний (по умолчанию) Сбалансированный Большинство задач, включая сложный код и агентов
высокий Наибольшее количество токенов, самая медленная первая токен Самые сложные рассуждения, математика и код

Google предупреждает, что на низком уровне "качество может упасть на сложных задачах", и его советы по выбору прямые: "Проведите свои оценки на всех трех уровнях, а затем выберите наименьший уровень, который соответствует вашему качественному стандарту".

В родном API настройка - это thinking_level, задокументированная в руководстве по мышлению Gemini. Через совместимый с OpenAI конечный пункт это reasoning_effort. Руководство Google по совместимости с OpenAI сопоставляет значения для Argon: минимальный и низкий становятся низким, средний остается средним, высокий остается высоким, а отсутствие настройки дает по умолчанию средний. Уровня, который отключает мышление, нет.

По умолчанию установлен средний уровень. Бенчмарки - высокие.

Google, Artificial Analysis и Vals все сообщают о Argon на высоком уровне. Vals также установил лимит вывода в 262,144 токена. Таким образом, оценки, которые вы видели, описывают Argon на его высшем уровне, а запрос без установленного уровня работает на одном шаге ниже.

Это не обязательно проблема. Средний уровень - это уровень, который Google рекомендует для большинства работ, включая сложный код и агентов, и он использует меньше токенов, чем высокий. Но никто не публиковал, сколько точности теряется на среднем или низком уровнях, или сколько токенов они экономят. [TBD: точность и токены по уровням мышления]

Еще одна деталь важна для сравнений. GPT-6 Astra и GPT-6.1 Sol были протестированы на "максимуме", уровне выше высокого. Ничья между "Argon (высокий)" и "Astra (максимум)" - это каждая модель на своем потолке, а не на совпадающих настройках.

Сколько стоит высокий уровень

Данные здесь взяты из Artificial Analysis, включая его тесты скорости провайдеров, и из Vals AI. Все они запускали Argon на высоком уровне.

Мера Gemini 4 Argon (высокий) Для сравнения
Выходные токены на задачу AA ~62k GPT-6 Astra (максимум): ~27k
Выходные токены для индекса AA 110M Медианная модель: 85M
Скорость вывода 99.5–116.5 токенов/с AI Studio / Vertex AI
Время до первого токена ответа ~45 с Включает время мышления
Время индекса Vals на тест 46 мин 33 с —

Токены мышления тарифицируются как выходные: Google указывает цену вывода Argon "включая токены мышления", а данные о использовании сообщают их как total_thought_tokens. При ~62k выходных токенов на задачу, задача стоит около $0.62 только за вывод по вводной цене Google в $10 за миллион, и около $1.24 при $20 за миллион, цена с 1 декабря.

Время следует за токенами. При 99.5 до 116.5 токенов в секунду, 62k токенов требуют примерно 9-10 минут для генерации, после ожидания около 45 секунд для первого токена ответа. Интерактивные продукты нуждаются в потоковой передаче и индикаторе прогресса на высоком уровне или на более низком.

Установка лимита вывода

max_output_tokens - это жесткий лимит на мышление и ответ вместе. Когда ответ достигает его, статус "незавершенный", и текст возвращается обрезанным или пустым, а токены мышления все еще тарифицируются. Рекомендации Google:

  • Если ваше приложение устанавливает лимит ниже 32K, увеличьте его как минимум до 32,768. Argon может потратить больше лимита на мышление, чем предыдущие модели.
  • Чтобы потратить меньше, понизьте уровень мышления вместо установки маленького лимита.
  • Без длинного декодирования, по умолчанию и максимум - 65,536 токенов. Запрос большего без длинного декодирования возвращает ошибку 400.
  • Ввод, мышление и вывод делят одно окно в 1,048,576 токенов. Если ваш ввод плюс max_output_tokens превышает его, лимит вывода уменьшается, чтобы вписаться.

Два изменения от Gemini 3. Температура, top_p и top_k игнорируются в Argon, поэтому их настройка ничего не дает. И жесткие запросы могут занимать несколько минут, поэтому Google рекомендует таймауты HTTP-клиента не менее 15 минут.

Длинное декодирование: ответы более 64K токенов

Длинное декодирование - это то, что Google анонсировал при запуске как Длинное Декодирование Продолжение. Руководство по длинному декодированию описывает два способа его выполнения.

Фоновое выполнение (API взаимодействий). Создайте взаимодействие с background=True и max_output_tokens выше 65,536. Фоновое выполнение требует store=true. Сервер записывает ответ в прыжках до 64K токенов, каждый из которых продолжается с того места, где остановился последний, в течение до 24 часов. Каждый прыжок добавляет шаг model_output, поэтому объедините их, когда взаимодействие завершится. Установите background=True без повышения max_output_tokens, и оно остановится на 64K.

Продолжение на стороне клиента (API generateContent). Каждый прыжок возвращает до 64K токенов при потоковой передаче или через SDK, 32K для нестримингового REST-вызова. Прыжок, который достигает своего лимита, заканчивается с finish_reason: CONTINUATION и continuation_token, и следующий запрос отправляет тот же ввод плюс токен. Недавние SDK делают это за вас: Python google-genai 2.30.1 и JavaScript @google/genai 2.29.1 или новее. Каждый запрос имеет лимит в 20 минут.

При потоковой передаче длинного декодирования сохраните идентификатор взаимодействия и последний event_id, переподключитесь с last_event_id, когда поток прерывается, и установите таймауты чтения от 15 до 20 минут. После первых 64K токенов поток приходит порциями около 5,000 токенов с паузами между ними.

Google четко указывает, когда это стоит:

Нагрузка Длинное декодирование?
Сложная математика, наука и доказательства Да
Самые сложные задачи программирования и агентов Да
Оценочные системы, которые останавливаются на лимите Да
Чат, вопросы и ответы, резюме, извлечение Нет, они завершаются менее чем на 32K
Запросы фиксированной длины Нет, цели по длине игнорируются
Агенты с множеством коротких инструментальных поворотов Нет
Запросы, близкие к лимиту ввода в 1M Нет
Вызовы с чувствительной задержкой Нет

Более высокий лимит дает модели пространство для размышлений; это не делает обычные ответы длиннее. Модель решает, сколько писать, и не следует целям по словам или токенам.

Как тарифицируется длинное декодирование

Вы платите за каждый токен в каждом прыжке, включая прыжки, которые содержат только мышление. Каждый прыжок также отправляет ваш запрос плюс все, что было сгенерировано до сих пор, обратно в модель в качестве ввода, поэтому эти токены считаются снова. Пример Google: запрос из 1,000 токенов, который производит 200,000 токенов мышления и вывода, требует четырех прыжков.

Прыжок Ввод, отправленный в модель Токены ввода
1 Запрос 1,000
2 Запрос + прыжок 1 66,536
3 Запрос + прыжки 1–2 132,072
4 Запрос + прыжки 1–3 197,608
Итого 397,216

Данные о использовании сообщают о примерно 397,000 токенах ввода, хотя контекст вмещает только около 201,000. Неявное кэширование снижает стоимость повторного ввода на 95%, поэтому это дешево: по вводным ценам 200,000 выходных токенов стоят $2.00, а около 396,000 повторных токенов ввода по $0.10 за миллион добавляют около $0.04. Вывод все еще доминирует в счете.

Два побочных эффекта. Не используйте total_input_tokens, чтобы решать, когда обрезать или резюмировать разговор, так как это завышает контекст; добавьте размер вашего запроса к итогам вывода и мышления. И отмененные или неудачные взаимодействия тарифицируют всю работу, выполненную до их остановки.

С чего начать, в зависимости от нагрузки

Эти рекомендации следуют указаниям Google по уровням; нет опубликованных данных по точности на уровне, чтобы уточнить их.

Нагрузка Начать с Почему
Самая сложная математика, наука и код Высокий Соответствует опубликованным бенчмаркам
Сложный код и агенты Средний Рекомендуемый по умолчанию Google
Юридический и финансовый анализ Высокий Опубликованные результаты на высоком уровне
Извлечение и классификация Низкий Проще, чувствительно к затратам работа
Чат и поддержка Низкий Наименьшая задержка

Затем протестируйте на одном уровне ниже. Если более дешевый уровень соответствует вашим требованиям на вашем собственном наборе оценок, оставьте его.

Держите уровень фиксированным в рамках одной сессии. Argon кэширует неявно, снижая стоимость повторного ввода на 95% для запросов не менее 4,096 токенов, и руководство AIHubMix Gemini отмечает, что попадание в кэш требует того же содержимого, модели и параметров. Переключение уровней между поворотами может вернуть кэшированный ввод обратно в полный ценовой ввод.

Установка уровня и лимита на AIHubMix

Argon доступен на AIHubMix как gemini-4-argon, на совместимом с OpenAI конечном пункте и через родной SDK Google GenAI. Для большинства запросов установите уровень и лимит явно:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
    timeout=900,  # жесткие запросы могут занимать несколько минут
)

resp = client.chat.completions.create(
    model="gemini-4-argon",
    reasoning_effort="medium",  # По умолчанию Argon; бенчмарки использовали "высокий"
    max_tokens=32768,           # ограничивает мышление и ответ вместе
    messages=[
        {"role": "user", "content": "Просмотрите этот платежный сервис на предмет условий гонки в его логике повторных попыток.\n\n<source code>"},
    ],
)
print(resp.choices[0].message.content)
print(resp.usage)

Для длинного декодирования используйте родной SDK, нацеленный на конечный пункт Gemini AIHubMix. Руководство AIHubMix документирует API взаимодействий, включая фоновый режим, с google-genai 2.0.0 или новее. Шаблон ниже - это документированный Google шаблон; он еще не был протестирован через AIHubMix. [TBD: длинное декодирование через AIHubMix]

import os
import time
from google import genai

client = genai.Client(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    http_options={"base_url": "https://aihubmix.com/gemini"},
)

interaction = client.interactions.create(
    model="gemini-4-argon",
    input="Напишите полный набор тестов для этого платежного модуля, с тестом для каждого крайнего случая.\n\n<source code>",
    background=True,
    generation_config={"max_output_tokens": 262144, "thinking_level": "high"},
)
while interaction.status in ("in_progress", "queued"):
    time.sleep(5)
    interaction = client.interactions.get(id=interaction.id)

# Каждый прыжок добавляет шаг model_output; объедините их все.
text = "".join(
    part.text
    for step in interaction.steps
    if step.type == "model_output"
    for part in step.content
    if part.type == "text"
)
print(interaction.status, interaction.usage)

Страница модели Argon на AIHubMix перечисляет его поддерживаемые входы, возможности и текущую цену.

Часто задаваемые вопросы

Какие уровни мышления поддерживает Gemini 4 Argon?
Низкий, средний и высокий. По умолчанию установлен средний, и отключить мышление нельзя.

На каком уровне проводились бенчмарки Argon?
На высоком. Google, Artificial Analysis и Vals AI все сообщают о Argon на высоком уровне, и никто не публиковал результаты на среднем или низком.

Как установить уровень через SDK OpenAI?
Используйте reasoning_effort. Для Argon минимальный и низкий соответствуют низкому, средний - среднему, а высокий - высокому. Оставьте его пустым, чтобы получить средний.

Почему Argon вернул пустой ответ?
Вероятно, он потратил весь бюджет max_output_tokens на мышление. Ответ возвращается незавершенным, и токены мышления все еще тарифицируются. Увеличьте лимит как минимум до 32,768 или понизьте уровень мышления.

Как получить более 64K выходных токенов?
Используйте длинное декодирование. В API взаимодействий установите background на true и max_output_tokens выше 65,536. В generateContent используйте недавний SDK, который продолжает через прыжки автоматически.

Как тарифицируется длинное декодирование?
Вы платите за каждый токен в каждом прыжке. Каждый прыжок повторно отправляет запрос и все, что было сгенерировано до сих пор, в качестве ввода, и неявное кэширование снижает стоимость этого повторного ввода на 95%. Отмененные или неудачные запуски тарифицируют уже выполненную работу.

Температура все еще работает на Gemini 4 Argon?
Нет. Температура, top_p и top_k игнорируются, поэтому удалите их и используйте уровень мышления для управления поведением.

Продолжайте читать: серия Gemini 4 Argon

Источники