Выбор уровня усилия рассуждений для GPT-6.1 Sol: от low до max

GPT-6.1 Sol имеет пять уровней усилия рассуждений: low, medium (по умолчанию), high, xhigh и max. Главное отличие от GPT-6 Sol в том, что none и minimal убрали, поэтому low теперь является нижней границей.

Этот параметр влияет и на задержку, и на стоимость. Токены рассуждений не видны, но оплачиваются по тарифу выходных токенов ($10 за миллион для 6.1 Sol на AIHubMix), и они занимают место в контекстном окне. Если выбрать неподходящий уровень, можно легко переплатить в несколько раз.

Для чего нужен каждый уровень

В этой таблице объединены описания OpenAI из руководства по рассуждениям с нашими собственными рекомендациями:

OpenAI называет effort «ручкой настройки, а не основным способом повысить качество». Если результаты плохие, сначала проверьте промпт, определения инструментов и контекст. Увеличивать усилие стоит только после этого.

Что показывают бенчмарки для каждого уровня

Это собственные цифры OpenAI, собранные Vellum и DataCamp. Используйте их как ориентир, а не как истину в последней инстанции.

Для программирования обычно достаточно high. На DeepSWE v1.1 6.1 Sol на high набирает 75,2, что совпадает с Astra на high (74,8), при стоимости около $1,50 за задачу. Его кривая стоимость выходит на 72–75% при $0,50–$1,50 за задачу. GPT-6 Sol на максимуме набрал 68,8 при стоимости около $2,60.

Выше medium помогает не всегда. На AutomationBench 6.1 Sol набирает 35,4% на medium и лишь около 36,0% на более высоком усилии. Для бизнес-автоматизации дополнительные токены рассуждений почти ничего не дали.

Берегите max для работы с компьютером и исследований. На OSWorld 2.0 max получает 71,4 при около $1,30 за задачу. Terminal-Bench Science на max стоит $5,47 за задачу: намного дешевле, чем $23,80 у Astra, но на порядок дороже большинства других задач.

Low тоже стал лучше. Доля фактических ошибок на low снизилась с 11,4% у 6 Sol до 7,7%. Если вы переводили задачи на medium в 6 Sol, потому что low был недостаточно точен, попробуйте low снова.

Отправные точки по сценариям использования

Соответствия none и minimal взяты из руководства по миграции на GPT-6 от OpenAI.

Смена усилия в процессе диалога

Распространённый паттерн: планировать на high, выполнять на low и возвращаться к high, когда что-то ломается.

Подвох: изменение reasoning.effort в запросе сбрасывает кэш промпта. Усилие входит в кэшируемый префикс (см. руководство по кэшированию промптов). Для 6.1 Sol чтение из кэша стоит $0,10 за миллион токенов, а перезапись кэша — $2,50. Разница составляет 25×.

Семейство GPT-6 решает это с помощью элемента входа configuration_update. Оставьте на уровне запроса reasoning.effort без изменений и вставьте обновление перед следующим сообщением пользователя. Вот как это выглядит через Responses API AIHubMix:

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

# Turn 1: plan at high effort
r1 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},
    input="Figure out why this repo's tests are failing and propose a fix plan.",
)

# Turn 2: drop to low for execution, without touching request-level effort
r2 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},           # unchanged, so the cache survives
    previous_response_id=r1.id,
    input=[
        {"type": "configuration_update", "reasoning": {"effort": "low"}},
        {"role": "user", "content": "Carry out step 1 of the plan."},
    ],
)

Структура configuration_update, показанная выше, носит иллюстративный характер. Точную схему смотрите в руководстве OpenAI по рассуждениям. В документации Responses AIHubMix сейчас перечислены четыре уровня (от minimal до high), поэтому отправьте небольшой тестовый запрос, чтобы убедиться, что xhigh, max и configuration_update проходят без ошибок.

Некоторые ограничения, которые нужно знать:

• Работает только в стандартном режиме одного агента и меняет только усилие.
• Два обновления не могут идти подряд.
• Не сочетается с автоматической компакцией или усечением. Явная компакция допустима, но после неё добавьте новое обновление.
• Поле reasoning.effort в ответе по-прежнему показывает значение с уровня запроса, поэтому не придавайте ему большого значения.

Параметры, которые идут вместе с усилием

Оставляйте запас в max_output_tokens. Лимит включает токены рассуждений. Если задать его слишком низко, модель может остановиться, так и не выдав видимый текст. Вы получите status: incomplete и всё равно заплатите за вход и рассуждения. OpenAI советует для начала резервировать не менее 25 000 токенов, а для xhigh или max — больше.

Следите за токенами рассуждений. Они находятся в usage.output_tokens_details.reasoning_tokens. Изучение распределения по каждому уровню усилия надёжнее настройки на глаз.

Включите сводки, если нужна прозрачность. reasoning.summary: "auto" возвращает сводку рассуждений модели (возможно, сначала потребуется верификация организации). Сырые рассуждения никогда не раскрываются.

Pro-режим — отдельный переключатель. Он заставляет модель выполнять больше работы; оплата идёт по стандартным тарифам, но токенов в итоге больше. Используйте его для сложных задач, где допустима дополнительная задержка.

Процесс настройки, который можно реально выполнить

1. Соберите 20–50 реальных задач в набор для оценки.
2. Запустите базовый прогон на medium. Зафиксируйте долю успешных ответов, среднее число токенов рассуждений и задержку P95.
3. Попробуйте low. Если успешность почти не падает, переключайтесь.
4. Попробуйте high. Если успешность заметно растёт, используйте high только для этого типа задач.
5. Тянитесь к xhigh или max только тогда, когда high не справляется, и заодно сравните с GPT-6 Astra на high. Иногда более крупная модель лучше, чем больше усилия. На AIHubMix это просто смена параметра model, а список моделей показывает, что доступно.
6. Маршрутизируйте по типу задачи вместо одной глобальной настройки.

Коротко: начинайте с medium, экономьте с low, используйте high для программирования, а xhigh и max пусть докажут свою пользу в ваших оценках.

Далее: что на самом деле стоит ценник $2 / $10, когда в игру вступают кэширование, длинный контекст и множители тарификации.

FAQ

Какое усилие рассуждений по умолчанию у GPT-6.1 Sol? medium. Если вы ничего не задаёте, используется именно он.

Почему none возвращает ошибку? 6.1 Sol не поддерживает none и minimal. OpenAI рекомендует перейти на low. Если вам действительно нужен none, оставайтесь на GPT-6 Sol или GPT-6 Luna.

Как тарифицируются токены рассуждений? По тарифу выходных токенов ($10 за миллион для 6.1 Sol), и они учитываются в контекстном окне. Фактические значения смотрите в usage.output_tokens_details.reasoning_tokens.

Одинаковое ли имя параметра в Chat Completions и Responses? Нет. Chat Completions использует верхнеуровневый reasoning_effort. Responses использует вложенный reasoning: {"effort": ...}. Если их перепутать, вернётся Unsupported parameter.

Всегда ли большее усилие даёт лучший результат? Нет. На AutomationBench переход выше medium поднял результат лишь с 35,4% до примерно 36,0%, при заметно большей стоимости. Проверяйте на своих задачах.

Можно ли менять усилие в середине диалога? Да. Используйте элемент configuration_update и оставьте reasoning.effort на уровне запроса без изменений, чтобы кэш промпта оставался действительным. Он не работает с автоматической компакцией или усечением.

Почему я получил status: incomplete без вывода? Скорее всего, max_output_tokens был слишком мал, и рассуждения полностью его исчерпали. OpenAI рекомендует резервировать не менее 25 000 токенов.

Читайте дальше: серия о GPT-6.1 Sol

• Какую часть счёта составляют рассуждения? Усилие — лишь один рычаг. На итоговую сумму влияют кэширование, порог 272K и скидки Batch. См. Сколько на самом деле стоит GPT-6.1 Sol: за пределами ценника $2 / $10.
• Код, который использовал none? Замена на low — это только начало. Вызовы инструментов, параметры семплирования и настройки кэша тоже требуют изменений: Миграция на GPT-6.1 Sol: 9 вещей, которые могут пойти не так.
• Насколько 6.1 Sol лучше 6 Sol и Astra? Характеристики и бенчмарки рядом — в GPT-6.1 Sol против GPT-6 Sol: недельное обновление, которое почти догоняет Astra.

Источники

• OpenAI: Руководство по рассуждениям
• OpenAI: Руководство по миграции на GPT-6
• AIHubMix: GPT-6.1 Sol
• AIHubMix: Документация Responses API
• Vellum: Разбор бенчмарков GPT-6.1 Sol