Wybór poziomu rozumowania (reasoning effort) dla GPT-6.1 Sol: od low do max

GPT-6.1 Sol ma pięć poziomów wysiłku rozumowania: low, medium (domyślny), high, xhigh i max. Największa zmiana względem GPT-6 Sol polega na tym, że none i minimal zniknęły, więc low jest teraz najniższym poziomem.

To jedno ustawienie wpływa zarówno na opóźnienie, jak i na koszt. Nigdy nie widzisz tokenów rozumowania, ale płacisz za nie według stawki za wyjście ($10 za milion dla 6.1 Sol w AIHubMix), a zajmują one miejsce w oknie kontekstowym. Wybór złego poziomu może łatwo kosztować kilka razy więcej, niż potrzeba.

Do czego służy każdy poziom

Poniższa tabela łączy opisy OpenAI z przewodnikiem o rozumowaniu z naszymi własnymi rekomendacjami:

OpenAI nazywa wysiłek „pokrętłem strojenia, a nie główym sposobem odzyskiwania jakości”. Gdy wyniki są słabe, najpierw sprawdź prompt, definicje narzędzi i kontekst. Dopiero potem zwiększ wysiłek.

Co mówią benchmarki o każdym poziomie

To liczby samego OpenAI, zestawione przez Vellum i DataCamp. Traktuj je jako wskazówkę, a nie dogmat.

W kodowaniu zwykle wystarcza high. W DeepSWE v1.1 6.1 Sol na poziomie high uzyskuje 75.2, co odpowiada wynikowi Astra na high (74.8), przy ok. $1.50 za zadanie. Jego krzywa kosztów sięga 72% do 75% przy kosztach od $0.50 do $1.50 za zadanie. GPT-6 Sol na maksimum osiągnął 68.8 przy ok. $2.60.

Powyżej medium nie zawsze to pomaga. W AutomationBench 6.1 Sol uzyskuje 35.4% na medium i tylko około 36.0% przy wyższym wysiłku. W automatyzacji biznesowej dodatkowe tokeny rozumowania niemal nic nie dały.

Zachowaj max dla używania komputera i badań. W OSWorld 2.0 max uzyskuje 71.4 przy ok. $1.30 za zadanie. Terminal-Bench Science na max kosztuje $5.47 za zadanie: znacznie taniej niż $23.80 w Astra, ale o rząd wielkości więcej niż przy większości innych zadań.

Low też się poprawił. Odsetek błędów faktograficznych na low spadł z 11.4% w 6 Sol do 7.7%. Jeśli na 6 Sol podniosłeś zadania do medium, bo low nie był wystarczająco dokładny, spróbuj ponownie z low.

Punkty wyjścia według przypadków użycia

Odwzorowania none i minimal pochodzą z przewodnika migracji do GPT-6 OpenAI.

Zmiana wysiłku w trakcie rozmowy

Typowy schemat to planowanie na high, wykonywanie na low i powrót do high, gdy coś się zepsuje.

Haczyk: edycja reasoning.effort w żądaniu psuje pamięć podręczną promptu. Wysiłek jest częścią buforowanego prefiksu (zob. przewodnik po cache'owaniu promptów). W 6.1 Sol odczyt z pamięci podręcznej kosztuje $0.10 za milion tokenów, a ponowne zapisanie pamięci podręcznej $2.50. To różnica 25×.

Rodzina GPT-6 rozwiązuje to za pomocą elementu wejściowego configuration_update. Nie zmieniaj reasoning.effort na poziomie żądania i wstaw aktualizację przed kolejną wiadomością użytkownika. Tak to wygląda w Responses API AIHubMix:

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

# Turn 1: plan at high effort
r1 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},
    input="Figure out why this repo's tests are failing and propose a fix plan.",
)

# Turn 2: drop to low for execution, without touching request-level effort
r2 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},           # unchanged, so the cache survives
    previous_response_id=r1.id,
    input=[
        {"type": "configuration_update", "reasoning": {"effort": "low"}},
        {"role": "user", "content": "Carry out step 1 of the plan."},
    ],
)

Kształt configuration_update powyżej ma charakter poglądowy. Sprawdź dokładny schemat w przewodniku OpenAI o rozumowaniu. Dokumentacja Responses AIHubMix wymienia obecnie cztery poziomy (od minimal do high), więc wyślij małe żądanie testowe, aby potwierdzić, że xhigh, max i configuration_update przechodzą dalej.

Kilka ograniczeń, o których warto wiedzieć:

• Działa tylko w standardowym trybie jednego agenta i zmienia wyłącznie wysiłek.
• Dwie aktualizacje nie mogą stać obok siebie.
• Nie łączy się z automatycznym kompaktowaniem ani obcinaniem. Jawne kompaktowanie jest w porządku, ale po nim dodaj nową aktualizację.
• Pole reasoning.effort w odpowiedzi nadal pokazuje wartość z poziomu żądania, więc nie przywiązuj do niego zbyt dużej wagi.

Ustawienia towarzyszące wysiłkowi

Zostaw miejsce w max_output_tokens. Limit obejmuje tokeny rozumowania. Ustawiony zbyt nisko, model może się zatrzymać, zanim wyprodukuje jakikolwiek widoczny tekst. Otrzymasz status: incomplete i nadal zapłacisz za wejście i rozumowanie. OpenAI sugeruje na początek zarezerwować co najmniej 25,000 tokenów, a więcej dla xhigh lub max.

Śledź tokeny rozumowania. Znajdziesz je w usage.output_tokens_details.reasoning_tokens. Analiza rozkładu według poziomu wysiłku jest lepsza niż dostrajanie na czuja.

Włącz podsumowania, jeśli potrzebujesz wglądu. reasoning.summary: "auto" zwraca podsumowanie rozumowania modelu (może być konieczna wcześniejsza weryfikacja organizacji). Surowe rozumowanie nigdy nie jest ujawniane.

Tryb Pro to osobny przełącznik. Sprawia, że model wykonuje więcej pracy, rozliczanej według stawek standardowych, ale z większą liczbą tokenów łącznie. Używaj go do trudnych problemów, gdy dodatkowe opóźnienie jest akceptowalne.

Proces strojenia, który faktycznie możesz przeprowadzić

1. Zbierz 20 do 50 rzeczywistych zadań do zestawu ewaluacyjnego.
2. Uruchom test bazowy na medium. Zapisz wskaźnik sukcesu, średnią liczbę tokenów rozumowania i opóźnienie P95.
3. Spróbuj low. Jeśli sukces prawie nie spada, przełącz się.
4. Spróbuj high. Jeśli sukces wyraźnie rośnie, użyj high tylko dla tego typu zadań.
5. Sięgaj po xhigh lub max dopiero wtedy, gdy high nie wystarcza, i przy okazji porównaj wynik z GPT-6 Astra na high. Czasem większy model przewyższa większy wysiłek. W AIHubMix to tylko zmiana parametru model, a lista modeli pokazuje, co jest dostępne.
6. Kieruj według typu zadania zamiast używać jednego globalnego ustawienia.

Krótka wersja: zacznij od medium, oszczędzaj dzięki low, używaj high do kodowania, a xhigh i max muszą udowodnić swoją wartość w Twoich ewaluacjach.

Następnie: co naprawdę oznacza cena $2 / $10, gdy w grę wchodzą cache'owanie, długi kontekst i mnożniki rozliczeniowe.

FAQ

Jaki jest domyślny wysiłek rozumowania dla GPT-6.1 Sol? medium. Jeśli go nie ustawisz, to właśnie dostaniesz.

Dlaczego none zwraca błąd? 6.1 Sol nie obsługuje none ani minimal. OpenAI zaleca przejście na low. Jeśli naprawdę potrzebujesz none, pozostań przy GPT-6 Sol lub GPT-6 Luna.

Jak rozliczane są tokeny rozumowania? Według stawki za wyjście ($10 za milion dla 6.1 Sol), a wliczają się do okna kontekstowego. Rzeczywiste liczby znajdziesz w usage.output_tokens_details.reasoning_tokens.

Czy nazwa parametru jest taka sama w Chat Completions i Responses? Nie. Chat Completions używa najwyższego poziomu reasoning_effort. Responses używa zagnieżdżonego reasoning: {"effort": ...}. Pomylenie ich zwraca Unsupported parameter.

Czy wyższy wysiłek zawsze daje lepsze wyniki? Nie. W AutomationBench przejście powyżej medium przesunęło wynik jedynie z 35.4% do około 36.0%, przy wyraźnie wyższym koszcie. Testuj na własnych zadaniach.

Czy mogę zmienić wysiłek w trakcie rozmowy? Tak. Użyj elementu configuration_update i nie zmieniaj reasoning.effort na poziomie żądania, aby pamięć podręczna promptu pozostała ważna. Nie działa z automatycznym kompaktowaniem ani obcinaniem.

Dlaczego dostałem status: incomplete bez wyniku? Najprawdopodobniej max_output_tokens było za niskie, a rozumowanie je zużyło. OpenAI zaleca zarezerwowanie co najmniej 25,000 tokenów.

Czytaj dalej: seria o GPT-6.1 Sol

• Jaka część rachunku to rozumowanie? Wysiłek to tylko jedna dźwignia. Cache'owanie, próg 272K i zniżki Batch również kształtują ostateczną kwotę. Zobacz What GPT-6.1 Sol Really Costs: Beyond the $2 / $10 Price Tag.
• Kod używający none? Przejście na low to dopiero początek. Wywołania narzędzi, parametry próbkowania i ustawienia pamięci podręcznej również wymagają zmian: Migrating to GPT-6.1 Sol: 9 Things That Can Go Wrong.
• O ile 6.1 Sol jest lepszy od 6 Sol i Astra? Specyfikacje i benchmarki obok siebie w GPT-6.1 Sol vs GPT-6 Sol: A One-Week Upgrade That Nearly Catches Astra.

Źródła

• OpenAI: Przewodnik po rozumowaniu
• OpenAI: Przewodnik migracji do GPT-6
• AIHubMix: GPT-6.1 Sol
• AIHubMix: Dokumentacja Responses API
• Vellum: Wyjaśnienie benchmarków GPT-6.1 Sol