Вибір рівня reasoning effort для GPT-6.1 Sol: від low до max

GPT-6.1 Sol має п'ять рівнів reasoning effort: low, medium (типовий), high, xhigh і max. Головна зміна порівняно з GPT-6 Sol полягає в тому, що none і minimal вилучено, тож low тепер є мінімальним рівнем.

Цей єдиний параметр визначає і затримку, і вартість. Reasoning-токени ви не бачите, але платите за них за тарифом вихідних токенів ($10 за мільйон для 6.1 Sol на AIHubMix), і вони займають місце у контекстному вікні. Якщо обрати неправильний рівень, можна легко переплатити в кілька разів більше, ніж потрібно.

Для чого призначений кожен рівень

У цій таблиці поєднано описи OpenAI з посібником з reasoning та наші власні рекомендації:

OpenAI називає effort «регулятором налаштування, а не основним способом відновити якість». Коли результати погані, спершу перевірте промпт, визначення інструментів і контекст. Підвищуйте effort лише після цього.

Що кажуть бенчмарки про кожен рівень

Це власні цифри OpenAI, зведені Vellum і DataCamp. Сприймайте їх як орієнтир, а не як істину в останній інстанції.

Для програмування зазвичай достатньо high. На DeepSWE v1.1 6.1 Sol з high набирає 75.2, що відповідає Astra з high (74.8), приблизно за $1.50 за завдання. Його крива вартості досягає 72%–75% при $0.50–$1.50 за завдання. GPT-6 Sol на максимумі набрав 68.8 приблизно за $2.60.

Вище medium не завжди допомагає. На AutomationBench 6.1 Sol набирає 35.4% на medium і лише близько 36.0% при вищих рівнях. Для бізнес-автоматизації додаткові reasoning-токени майже нічого не дали.

Залишайте max для використання комп'ютера та досліджень. На OSWorld 2.0 max набирає 71.4 приблизно за $1.30 за завдання. Terminal-Bench Science на max коштує $5.47 за завдання: значно дешевше, ніж $23.80 у Astra, але на порядок вище, ніж більшість інших навантажень.

Low теж покращився. Рівень фактичних помилок на low знизився з 11.4% у 6 Sol до 7.7%. Якщо ви переводили завдання на medium у 6 Sol, бо low був недостатньо точним, спробуйте low ще раз.

Стартові точки за сценаріями використання

Відповідності none і minimal походять з посібника з міграції на GPT-6 від OpenAI.

Зміна effort посеред розмови

Поширений патерн: планувати на high, виконувати на low і повертатися на high, коли щось ламається.

Застереження: зміна reasoning.effort у запиті ламає ваш кеш промптів. Effort є частиною кешованого префікса (див. посібник з кешування промптів). На 6.1 Sol читання з кешу коштує $0.10 за мільйон токенів, а перезапис кешу — $2.50. Це різниця у 25×.

Сімейство GPT-6 вирішує це за допомогою елемента вводу configuration_update. Залиште reasoning.effort на рівні запиту без змін і вставте оновлення перед наступним повідомленням користувача. Ось як це виглядає через AIHubMix Responses API:

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

# Turn 1: plan at high effort
r1 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},
    input="Figure out why this repo's tests are failing and propose a fix plan.",
)

# Turn 2: drop to low for execution, without touching request-level effort
r2 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},           # unchanged, so the cache survives
    previous_response_id=r1.id,
    input=[
        {"type": "configuration_update", "reasoning": {"effort": "low"}},
        {"role": "user", "content": "Carry out step 1 of the plan."},
    ],
)

Наведена форма configuration_update є ілюстративною. Точну схему перевірте в посібнику OpenAI з reasoning. Документація Responses від AIHubMix наразі перелічує чотири рівні (від minimal до high), тож надішліть невеликий тестовий запит, щоб переконатися, що xhigh, max і configuration_update проходять без змін.

Кілька обмежень, які варто знати:

• Працює лише у стандартному режимі одного агента і змінює лише effort.
• Два оновлення не можуть стояти поруч одне з одним.
• Не поєднується з автоматичним compaction або truncation. Явний compaction допустимий, але після нього додайте нове оновлення.
• Поле reasoning.effort у відповіді все ще показує значення рівня запиту, тож не покладайтеся на нього занадто сильно.

Налаштування, що супроводжують effort

Залишайте запас у max_output_tokens. Ліміт включає reasoning-токени. Якщо встановити його занадто низько, модель може зупинитися, не видавши жодного видимого тексту. Ви отримаєте status: incomplete і все одно платитимете за вхід і міркування. OpenAI радить резервувати щонайменше 25 000 токенів для початку, а для xhigh або max — більше.

Відстежуйте reasoning-токени. Вони містяться в usage.output_tokens_details.reasoning_tokens. Аналіз розподілу за рівнями effort кращий за налаштування на відчуття.

Увімкніть підсумки, якщо потрібна прозорість. reasoning.summary: "auto" повертає підсумок міркувань моделі (можливо, спочатку потрібно верифікувати вашу організацію). Сирі міркування ніколи не відкриваються.

Режим Pro — окремий перемикач. Він змушує модель виконувати більше роботи, тарифікується за стандартними ставками, але з більшою кількістю токенів загалом. Використовуйте його для складних задач, де додаткова затримка прийнятна.

Процес налаштування, який можна реально виконати

1. Зберіть 20–50 реальних завдань в eval-набір.
2. Запустіть базовий прогін на medium. Фіксуйте частку успішних відповідей, середню кількість reasoning-токенів і P95-затримку.
3. Спробуйте low. Якщо успішність майже не падає, перемкніться.
4. Спробуйте high. Якщо успішність явно зростає, використовуйте high лише для цього типу завдань.
5. Звертайтеся до xhigh або max лише тоді, коли high недостатньо, і заодно порівняйте з GPT-6 Astra на high. Іноді більша модель перевершує більший effort. На AIHubMix це лише зміна параметра model, а список моделей показує доступні варіанти.
6. Маршрутизуйте за типом завдання замість одного глобального налаштування.

Коротко: починайте з medium, економте з low, використовуйте high для програмування і змушуйте xhigh та max довести свою користь у ваших evals.

Далі: що насправді означає цінник $2 / $10, коли враховуються кешування, довгий контекст і множники тарифів.

FAQ

Який типовий reasoning effort для GPT-6.1 Sol? medium. Якщо ви не задаєте значення, використовується саме він.

Чому none повертає помилку? 6.1 Sol не підтримує none і minimal. OpenAI рекомендує перейти на low. Якщо вам справді потрібен none, залишайтеся на GPT-6 Sol або GPT-6 Luna.

Як тарифікуються reasoning-токени? За тарифом вихідних токенів ($10 за мільйон для 6.1 Sol), і вони враховуються у контекстному вікні. Фактичні значення дивіться в usage.output_tokens_details.reasoning_tokens.

Чи однакова назва параметра в Chat Completions і Responses? Ні. Chat Completions використовує параметр верхнього рівня reasoning_effort. Responses використовує вкладений reasoning: {"effort": ...}. Змішування їх призводить до помилки Unsupported parameter.

Чи завжди вищий effort дає кращі результати? Ні. На AutomationBench перехід вище medium підняв результат лише з 35.4% до приблизно 36.0%, при помітно вищій вартості. Перевіряйте на власних завданнях.

Чи можна змінити effort посеред розмови? Так. Використовуйте елемент configuration_update і залиште reasoning.effort на рівні запиту без змін, щоб кеш промптів залишався чинним. Він не працює з автоматичним compaction або truncation.

Чому я отримав status: incomplete без виводу? Найімовірніше, max_output_tokens був занадто малим, і reasoning їх використав. OpenAI радить резервувати щонайменше 25 000 токенів.

Читайте далі: серія GPT-6.1 Sol

• Яка частина вашого рахунку припадає на reasoning? Effort — лише один важіль. Кешування, поріг 272K і знижки Batch також формують остаточну суму. Дивіться What GPT-6.1 Sol Really Costs: Beyond the $2 / $10 Price Tag.
• Код, який використовував none? Перехід на low — лише початок. Виклики інструментів, параметри семплювання і налаштування кешу також потребують змін: Migrating to GPT-6.1 Sol: 9 Things That Can Go Wrong.
• Наскільки 6.1 Sol кращий за 6 Sol і Astra? Характеристики та бенчмарки поруч дивіться в GPT-6.1 Sol vs GPT-6 Sol: A One-Week Upgrade That Nearly Catches Astra.

Джерела

• OpenAI: посібник з reasoning
• OpenAI: посібник з міграції на GPT-6
• AIHubMix: GPT-6.1 Sol
• AIHubMix: документація Responses API
• Vellum: пояснення бенчмарків GPT-6.1 Sol