Рівні мислення Gemini 4 Argon та довге декодування: значення за замовчуванням, витрати та коли використовувати кожен з них

AIHubMix8 хв читання
Рівні мислення Gemini 4 Argon та довге декодування: значення за замовчуванням, витрати та коли використовувати кожен з них

Gemini 4 Argon став загальнодоступним 13 жовтня 2026 року, і разом з ним Google задокументував два параметри, які визначають, скільки коштує запит Argon і скільки часу він займає: рівень мислення та обмеження виходу. Argon пропонує три рівні мислення: низький, середній та високий, причому за замовчуванням використовується середній. Відповіді зупиняються на 64K токенах, якщо ви не ввімкнете довге декодування, яке дозволяє одній відповіді досягати 1M токенів.

Але є нюанс у значеннях за замовчуванням. Кожен опублікований бенчмарк Argon працював на високому рівні: Google оцінював його "з найвищими налаштуваннями мислення", Artificial Analysis тестував його на високому рівні, а Vals AI також використовував високий рівень. Запит, який не встановлює рівень, працює на середньому, тому це не є конфігурацією, яку описують ці результати.

У цьому пості розглядаються три рівні та поради Google щодо кожного з них, що коштує високий рівень у токенах і часі, як встановити обмеження виходу, щоб відповіді не поверталися порожніми, і як працює довге декодування та як за нього нараховують плату. Завершується кодом для AIHubMix.

Коротка версія

  • Argon має три рівні мислення: низький, середній (за замовчуванням) та високий. Вимкнути мислення не можна.
  • Кожен опублікований бенчмарк використовував високий рівень. Ніхто не публікував результати на середньому або низькому рівнях.
  • max_output_tokens обмежує мислення та відповідь разом. Встановіть його щонайменше на 32,768, або жорсткий запит може витратити весь бюджет на мислення та не повернути нічого.
  • Без довгого декодування відповідь зупиняється на 65,536 токенах. З ним відповідь може досягати 1,048,576 токенів за вирахуванням вашого вводу.
  • Довге декодування нараховує плату за кожен токен кожного 64K "стрибка", і кожен стрибок повторно читає все, що було написано до цього моменту, як ввід, знижуючи вартість на 95% завдяки неявному кешуванню.

Три рівні

Посібник Google Що нового в Gemini 4 Argon описує рівні так:

Рівень Використання токенів Google рекомендує для
низький Найменше токенів, найнижча затримка Простіші та чутливі до витрат завдання
середній (за замовчуванням) Збалансований Більшість завдань, включаючи складний код та агентів
високий Найбільше токенів, найповільніший перший токен Найскладніше міркування, математика та код

Google попереджає, що на низькому рівні "якість може знижуватися на складних завданнях", а його порада щодо вибору проста: "Запустіть свої оцінки на всіх трьох рівнях, а потім виберіть найнижчий рівень, який відповідає вашим вимогам до якості."

У рідному API параметр - це thinking_level, задокументований у посібнику з мислення Gemini. Через сумісний з OpenAI кінцевий пункт це reasoning_effort. Посібник Google з сумісності з OpenAI відображає значення для Argon: мінімальний та низький обидва стають низькими, середній залишається середнім, високий залишається високим, а якщо його не вказати, то отримуєте за замовчуванням середній. Немає рівня, який вимикає мислення.

За замовчуванням середній. Бенчмарки високі.

Google, Artificial Analysis та Vals всі повідомляють про Argon на високому рівні. Vals також встановив обмеження виходу на 262,144 токенів. Отже, результати, які ви бачили, описують Argon на його найвищому рівні, а запит без встановленого рівня працює на одному рівні нижче.

Це не обов'язково є проблемою. Середній рівень - це рівень, який Google рекомендує для більшості завдань, включаючи складний код та агентів, і він використовує менше токенів, ніж високий. Але ніхто не опублікував, скільки точності втрачає середній або низький рівень, або скільки токенів вони економлять. [TBD: точність і токени за рівнем мислення]

Ще один важливий момент для порівнянь. GPT-6 Astra та GPT-6.1 Sol були протестовані на "максимум", рівні вище високого. Зв'язок між "Argon (високий)" та "Astra (максимум)" - це кожна модель на своєму максимумі, а не на відповідних налаштуваннях.

Що коштує високий рівень

Дані тут отримані з Artificial Analysis, включаючи його тести швидкості постачальників, та з Vals AI. Всі вони тестували Argon на високому рівні.

Вимірювання Gemini 4 Argon (високий) Для порівняння
Вихідні токени на завдання AA ~62k GPT-6 Astra (максимум): ~27k
Вихідні токени для індексу AA 110M Середня модель: 85M
Швидкість виходу 99.5–116.5 токенів/с AI Studio / Vertex AI
Час до першого токена відповіді ~45 с Включає час на мислення
Час індексу Vals на тест 46 хв 33 с —

Токени мислення нараховуються як вихідні: Google вказує ціну виходу Argon "включаючи токени мислення", а дані використання звітують про них як total_thought_tokens. При ~62k вихідних токенів на завдання, завдання коштує близько $0.62 тільки за вихід за початковою ціною Google $10 за мільйон, і близько $1.24 за $20 за мільйон, ціна з 1 грудня.

Час слідує за токенами. При 99.5 до 116.5 токенів на секунду, 62k токенів займають приблизно 9 до 10 хвилин для генерації, після очікування близько 45 секунд для першого токена відповіді. Інтерактивні продукти потребують потокового режиму та індикатора прогресу на високому рівні або на нижчому.

Встановлення обмеження виходу

max_output_tokens є жорстким обмеженням на мислення та відповідь разом. Коли відповідь досягає його, статус "незавершено", і текст повертається обірваним або порожнім, а токени мислення все ще нараховуються. Поради Google:

  • Якщо ваш додаток встановлює обмеження нижче 32K, підвищте його щонайменше до 32,768. Argon може витратити більше з обмеження на мислення, ніж попередні моделі.
  • Щоб витратити менше, знижуйте рівень мислення замість того, щоб встановлювати мале обмеження.
  • Без довгого декодування, за замовчуванням і максимумом є 65,536 токенів. Запит на більше без довгого декодування повертає помилку 400.
  • Ввід, мислення та вихід ділять одне вікно на 1,048,576 токенів. Якщо ваш ввід плюс max_output_tokens перевищує його, обмеження виходу зменшується, щоб вмістити.

Два додаткові зміни від Gemini 3. Температура, top_p та top_k ігноруються в Argon, тому налаштування їх нічого не дає. І жорсткі запити можуть займати кілька хвилин, тому Google рекомендує тайм-аути HTTP-клієнтів щонайменше 15 хвилин.

Довге декодування: відповіді понад 64K токенів

Довге декодування - це те, що Google оголосив при запуску як Довге Декодування Продовження. Посібник довгого декодування описує два способи його виконання.

Фонове виконання (API взаємодій). Створіть взаємодію з background=True та max_output_tokens вище 65,536. Фонове виконання потребує store=true. Сервер записує відповідь у стрибках до 64K токенів, кожен з яких продовжує з того місця, де зупинився останній, протягом до 24 годин. Кожен стрибок додає крок model_output, тому об'єднайте їх, коли взаємодія завершиться. Встановіть background=True без підвищення max_output_tokens, і вона зупиниться на 64K.

Продовження на стороні клієнта (API generateContent). Кожен стрибок повертає до 64K токенів при потоковій передачі або через SDK, 32K для нестрімового REST-запиту. Стрибок, який досягає свого ліміту, закінчується з finish_reason: CONTINUATION та continuation_token, а наступний запит надсилає той же ввід плюс токен. Останні SDK роблять це за вас: Python google-genai 2.30.1 та JavaScript @google/genai 2.29.1 або пізніше. Кожен запит має обмеження в 20 хвилин.

Коли ви потоково передаєте довге декодування, збережіть ідентифікатор взаємодії та останній event_id, перепідключіться з last_event_id, коли потік обривається, і встановіть тайм-аути читання від 15 до 20 хвилин. Після перших 64K токенів потік надходить частинами приблизно по 5,000 токенів з паузами між ними.

Google чітко вказує, коли це варто:

Навантаження Довге декодування?
Складна математика, наука та докази Так
Найскладніші завдання з кодування та агентів Так
Оцінкові системи, які зупиняються на ліміті Так
Чат, Q&A, резюме, витяг Ні, вони закінчуються до 32K
Запити на фіксовану довжину Ні, цільові довжини ігноруються
Агенти з багатьма короткими поворотами інструментів Ні
Запити, близькі до ліміту вводу в 1M Ні
Виклики, чутливі до затримки Ні

Вищий ліміт дає моделі простір для мислення; це не робить звичайні відповіді довшими. Модель вирішує, скільки писати, і не дотримується цільових слів або токенів.

Як нараховується плата за довге декодування

Ви платите за кожен токен у кожному стрибку, включаючи стрибки, які містять лише мислення. Кожен стрибок також надсилає ваш запит плюс все, що було згенеровано до цього моменту, назад до моделі як ввід, тому ці токени знову враховуються. Приклад Google: запит на 1,000 токенів, який генерує 200,000 токенів мислення та виходу, займає чотири стрибки.

Стрибок Ввід, надісланий до моделі Ввід токенів
1 Запит 1,000
2 Запит + стрибок 1 66,536
3 Запит + стрибки 1–2 132,072
4 Запит + стрибки 1–3 197,608
Всього 397,216

Дані використання звітують про близько 397,000 токенів вводу, хоча контекст утримує лише близько 201,000. Неявне кешування знижує вартість повторного вводу на 95%, тому це дешево: за початковими цінами 200,000 вихідних токенів коштують $2.00, а близько 396,000 повторних токенів вводу за $0.10 за мільйон додають близько $0.04. Вихід все ще домінує у рахунку.

Два побічні ефекти. Не використовуйте total_input_tokens, щоб вирішити, коли скоротити або підсумувати розмову, оскільки це завищує контекст; додайте розмір вашого запиту до виходу та підсумків мислення. І скасовані або невдалі взаємодії нараховують плату за всю роботу, виконану до їх зупинки.

З чого почати, за навантаженням

Ці рекомендації відповідають порадам Google щодо рівнів; немає опублікованих даних про точність за рівнями, щоб їх уточнити.

Навантаження Почати з Чому
Найскладніша математика, наука та код Високий Відповідає опублікованим бенчмаркам
Складний код та агенти Середній Рекомендується Google за замовчуванням
Юридичний та фінансовий аналіз Високий Опубліковані результати на високому рівні
Витяг та класифікація Низький Простіша, чутлива до витрат робота
Чат та підтримка Низький Найнижча затримка

Потім протестуйте на одному рівні нижче. Якщо дешевший рівень відповідає вашим вимогам за вашим власним набором оцінок, залиште його.

Тримайте рівень фіксованим протягом сесії. Argon кешує неявно, знижуючи повторний ввід на 95% для запитів щонайменше на 4,096 токенів, а посібник AIHubMix Gemini зазначає, що для попадання в кеш потрібно, щоб вміст, модель та параметри були однаковими. Перемикання рівнів між поворотами може перетворити кешований ввід назад у ввід за повною ціною.

Встановлення рівня та обмеження на AIHubMix

Argon доступний на AIHubMix як gemini-4-argon, на кінцевому пункті, сумісному з OpenAI, та через рідний SDK Google GenAI. Для більшості запитів встановіть рівень та обмеження явно:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
    timeout=900,  # жорсткі запити можуть займати кілька хвилин
)

resp = client.chat.completions.create(
    model="gemini-4-argon",
    reasoning_effort="medium",  # за замовчуванням Argon; бенчмарки використовували "високий"
    max_tokens=32768,           # обмежує мислення та відповідь разом
    messages=[
        {"role": "user", "content": "Перегляньте цей платіжний сервіс на наявність умов гонки в його логіці повторних спроб.\n\n<source code>"},
    ],
)
print(resp.choices[0].message.content)
print(resp.usage)

Для довгого декодування використовуйте рідний SDK, націлений на кінцевий пункт Gemini AIHubMix. Посібник AIHubMix документує API взаємодій, включаючи фоновий режим, з google-genai 2.0.0 або пізніше. Шаблон нижче є задокументованим Google; він ще не був протестований через AIHubMix. [TBD: довге декодування через AIHubMix]

import os
import time
from google import genai

client = genai.Client(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    http_options={"base_url": "https://aihubmix.com/gemini"},
)

interaction = client.interactions.create(
    model="gemini-4-argon",
    input="Напишіть повний тестовий набір для цього платіжного модуля, з тестом для кожного крайового випадку.\n\n<source code>",
    background=True,
    generation_config={"max_output_tokens": 262144, "thinking_level": "high"},
)
while interaction.status in ("in_progress", "queued"):
    time.sleep(5)
    interaction = client.interactions.get(id=interaction.id)

# Кожен стрибок додає крок model_output; об'єднайте їх усі.
text = "".join(
    part.text
    for step in interaction.steps
    if step.type == "model_output"
    for part in step.content
    if part.type == "text"
)
print(interaction.status, interaction.usage)

Сторінка моделі Argon на AIHubMix містить інформацію про підтримувані ввідні дані, можливості та поточну ціну.

Часті запитання

Які рівні мислення підтримує Gemini 4 Argon?
Низький, середній та високий. За замовчуванням використовується середній, і вимкнути мислення не можна.

На якому рівні були проведені бенчмарки Argon?
Високий. Google, Artificial Analysis та Vals AI всі повідомляють про Argon на високому рівні, і ніхто не публікував результати на середньому або низькому рівнях.

Як я можу встановити рівень через OpenAI SDK?
Використовуйте reasoning_effort. Для Argon мінімальний та низький відповідають низькому, середній - середньому, а високий - високому. Якщо не вказати, отримаєте середній.

Чому Argon повернув порожню відповідь?
Можливо, він витратив весь бюджет max_output_tokens на мислення. Відповідь повертається незавершеною, а токени мислення все ще нараховуються. Підвищте ліміт щонайменше до 32,768 або знизьте рівень мислення.

Як отримати більше ніж 64K вихідних токенів?
Використовуйте довге декодування. У API взаємодій встановіть background на true та max_output_tokens вище 65,536. У generateContent використовуйте останній SDK, який автоматично продовжує через стрибки.

Як нараховується плата за довге декодування?
Ви платите за кожен токен у кожному стрибку. Кожен стрибок повторно надсилає запит і все, що було згенеровано до цього моменту, як ввід, а неявне кешування знижує вартість повторного вводу на 95%. Скасовані або невдалі запити нараховують плату за вже виконану роботу.

Чи працює температура на Gemini 4 Argon?
Ні. Температура, top_p та top_k ігноруються, тому видаліть їх і використовуйте рівень мислення для контролю поведінки.

Продовжуйте читати: серія Gemini 4 Argon

Джерела