Die Wahl des Reasoning-Effort für GPT-6.1 Sol: low bis max

GPT-6.1 Sol hat fünf Reasoning-Effort-Stufen: low, medium (der Standard), high, xhigh und max. Die große Änderung gegenüber GPT-6 Sol ist, dass none und minimal entfallen, sodass low jetzt die unterste Stufe ist.

Diese eine Einstellung bestimmt sowohl Latenz als auch Kosten. Reasoning-Tokens siehst du nie, du bezahlst sie aber zum Output-Preis ($10 pro Million für 6.1 Sol auf AIHubMix), und sie belegen Platz im Kontextfenster. Wählst du die falsche Stufe, zahlst du leicht das Mehrfache dessen, was nötig wäre.

Wofür sich jede Stufe eignet

Diese Tabelle kombiniert die Beschreibungen von OpenAI aus dem Reasoning-Guide mit unseren eigenen Empfehlungen:

OpenAI bezeichnet Effort als „einen Stellhebel, nicht den primären Weg, Qualität zurückzugewinnen“. Wenn die Ergebnisse schlecht sind, prüfe zuerst den Prompt, die Tool-Definitionen und den Kontext. Erhöhe den Effort erst danach.

Was die Benchmarks zu jeder Stufe sagen

Dies sind eigene Zahlen von OpenAI, zusammengestellt von Vellum und DataCamp. Betrachte sie als Orientierung, nicht als unumstößliche Wahrheit.

Für Coding reicht meist high. Bei DeepSWE v1.1 erreicht 6.1 Sol mit high 75.2 Punkte und liegt damit gleichauf mit Astra mit high (74.8), bei etwa $1.50 pro Aufgabe. Seine Kostenkurve erreicht 72% bis 75% bei $0.50 bis $1.50 pro Aufgabe. GPT-6 Sol kam mit maximalem Aufwand auf 68.8 bei etwa $2.60.

Mehr als medium hilft nicht immer. Bei AutomationBench erreicht 6.1 Sol 35.4% bei medium und nur etwa 36.0% bei höherem Effort. Für Business-Automatisierung haben die zusätzlichen Reasoning-Tokens kaum etwas gebracht.

Spare max für Computer Use und Forschung auf. Bei OSWorld 2.0 erreicht max 71.4 bei etwa $1.30 pro Aufgabe. Terminal-Bench Science kostet mit max $5.47 pro Aufgabe: deutlich günstiger als Astras $23.80, aber eine Größenordnung über den meisten anderen Workloads.

Auch low hat sich verbessert. Die Rate faktischer Fehler bei low sank von 11.4% bei 6 Sol auf 7.7%. Wenn du Aufgaben bei 6 Sol auf medium angehoben hast, weil low nicht genau genug war, probiere low erneut aus.

Ausgangspunkte nach Anwendungsfall

Die Zuordnungen für none und minimal stammen aus OpenAIs GPT-6-Migrationsleitfaden.

Effort mitten in einer Unterhaltung ändern

Ein verbreitetes Muster ist, bei high zu planen, bei low auszuführen und bei Problemen wieder auf high zu wechseln.

Der Haken: Das Bearbeiten von reasoning.effort in der Anfrage bricht deinen Prompt-Cache. Effort ist Teil des gecachten Präfixes (siehe den Leitfaden zu Prompt Caching). Bei 6.1 Sol kostet ein Cache-Lesezugriff $0.10 pro Million Tokens, während das Neuschreiben des Caches $2.50 kostet. Das ist ein Unterschied von 25×.

Die GPT-6-Familie löst das mit einem configuration_update-Eingabeelement. Lass das reasoning.effort auf Anfrageebene unverändert und füge vor der nächsten Nutzernachricht ein Update ein. So sieht das über die AIHubMix Responses API aus:

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

# Turn 1: plan at high effort
r1 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},
    input="Figure out why this repo's tests are failing and propose a fix plan.",
)

# Turn 2: drop to low for execution, without touching request-level effort
r2 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},           # unchanged, so the cache survives
    previous_response_id=r1.id,
    input=[
        {"type": "configuration_update", "reasoning": {"effort": "low"}},
        {"role": "user", "content": "Carry out step 1 of the plan."},
    ],
)

Die oben gezeigte Form von configuration_update ist nur veranschaulichend. Prüfe den Reasoning-Guide von OpenAI für das genaue Schema. Die Responses-Dokumentation von AIHubMix listet derzeit vier Stufen (minimal bis high). Sende daher eine kleine Testanfrage, um zu bestätigen, dass xhigh, max und configuration_update durchgereicht werden.

Einige Einschränkungen sind zu beachten:

• Es funktioniert nur im Standard-Single-Agent-Modus, und es ändert nur den Effort.
• Zwei Updates können nicht direkt nebeneinander stehen.
• Es lässt sich nicht mit automatischer Compaction oder Truncation kombinieren. Explizite Compaction ist in Ordnung, aber füge danach ein neues Update hinzu.
• Das Feld reasoning.effort in der Antwort zeigt weiterhin den Wert auf Anfrageebene, also überinterpretiere es nicht.

Einstellungen, die zum Effort gehören

Lass Platz in max_output_tokens. Das Limit umfasst die Reasoning-Tokens. Setzt du es zu niedrig, kann das Modell aufhören, bevor es sichtbaren Text erzeugt. Du erhältst status: incomplete und zahlst trotzdem für Input und Reasoning. OpenAI empfiehlt, zum Start mindestens 25,000 Tokens zu reservieren, bei xhigh oder max entsprechend mehr.

Verfolge die Reasoning-Tokens. Sie stehen in usage.output_tokens_details.reasoning_tokens. Die Verteilung pro Effort-Stufe anzusehen ist besser, als nach Gefühl abzustimmen.

Aktiviere Zusammenfassungen, wenn du Einblick brauchst. reasoning.summary: "auto" liefert eine Zusammenfassung des Reasonings des Modells (möglicherweise musst du zuerst deine Organisation verifizieren). Das rohe Reasoning wird nie offengelegt.

Pro-Modus ist ein eigener Schalter. Er lässt das Modell mehr Arbeit leisten, wird zu Standardtarifen abgerechnet, verbraucht aber insgesamt mehr Tokens. Nutze ihn für schwierige Probleme, bei denen zusätzliche Latenz akzeptabel ist.

Ein Tuning-Prozess, den du tatsächlich durchführen kannst

1. Stelle 20 bis 50 reale Aufgaben in einem Eval-Set zusammen.
2. Führe eine Baseline bei medium aus. Erfasse Erfolgsrate, durchschnittliche Reasoning-Tokens und P95-Latenz.
3. Probiere low. Sinkt der Erfolg kaum, wechsle.
4. Probiere high. Verbessert sich der Erfolg deutlich, verwende high nur für diesen Aufgabentyp.
5. Greife nur dann zu xhigh oder max, wenn high nicht reicht, und vergleiche dabei gleich mit GPT-6 Astra bei high. Manchmal schlägt ein größeres Modell mehr Effort. Auf AIHubMix ist das nur eine Änderung am Parameter model, und die Modellliste zeigt, was verfügbar ist.
6. Routing nach Aufgabentyp statt einer globalen Einstellung.

Die Kurzfassung: Starte bei medium, spare mit low Geld, nutze high für Coding und lass xhigh und max sich in deinen Evals beweisen.

Als Nächstes: Was das Preisschild von $2 / $10 wirklich bedeutet, wenn Caching, langer Kontext und Abrechnungsmultiplikatoren ins Spiel kommen.

FAQ

Was ist der Standard-Reasoning-Effort für GPT-6.1 Sol? medium. Wenn du nichts einstellst, bekommst du diesen Wert.

Warum gibt none einen Fehler zurück? 6.1 Sol unterstützt none oder minimal nicht. OpenAI empfiehlt, auf low umzustellen. Wenn du wirklich none brauchst, bleib bei GPT-6 Sol oder GPT-6 Luna.

Wie werden Reasoning-Tokens abgerechnet? Zum Output-Preis ($10 pro Million für 6.1 Sol), und sie zählen gegen das Kontextfenster. Die tatsächlichen Werte findest du unter usage.output_tokens_details.reasoning_tokens.

Ist der Parametername in Chat Completions und Responses derselbe? Nein. Chat Completions verwendet ein Top-Level-reasoning_effort. Responses verwendet ein verschachteltes reasoning: {"effort": ...}. Verwechselst du beides, kommt Unsupported parameter zurück.

Liefert höherer Effort immer bessere Ergebnisse? Nein. Bei AutomationBench hat das Erhöhen über medium den Wert nur von 35.4% auf etwa 36.0% gebracht, bei spürbar höheren Kosten. Teste mit deinen eigenen Aufgaben.

Kann ich den Effort mitten in einer Unterhaltung ändern? Ja. Verwende ein configuration_update-Element und lass reasoning.effort auf Anfrageebene unverändert, damit der Prompt-Cache gültig bleibt. Es funktioniert nicht mit automatischer Compaction oder Truncation.

Warum habe ich status: incomplete ohne Output erhalten? Höchstwahrscheinlich war max_output_tokens zu niedrig, und das Reasoning hat alles aufgebraucht. OpenAI empfiehlt, mindestens 25,000 Tokens zu reservieren.

Weiterlesen: die GPT-6.1-Sol-Serie

• Wie viel deiner Rechnung entfällt auf Reasoning? Der Effort ist nur ein Hebel. Caching, die 272K-Schwelle und Batch-Rabatte bestimmen die Endsumme ebenfalls. Siehe Was GPT-6.1 Sol wirklich kostet: Jenseits des Preisschilds von $2 / $10.
• Code, der none verwendet hat? Der Wechsel zu low ist nur der Anfang. Tool-Aufrufe, Sampling-Parameter und Cache-Einstellungen brauchen ebenfalls Anpassungen: Migration zu GPT-6.1 Sol: 9 Dinge, die schiefgehen können.
• Wie viel besser ist 6.1 Sol als 6 Sol und Astra? Spezifikationen und Benchmarks im direkten Vergleich finden sich unter GPT-6.1 Sol vs. GPT-6 Sol: Ein Ein-Wochen-Upgrade, das Astra fast einholt.

Quellen

• OpenAI: Reasoning-Guide
• OpenAI: GPT-6-Migrationsleitfaden
• AIHubMix: GPT-6.1 Sol
• AIHubMix: Responses-API-Dokumentation
• Vellum: GPT-6.1 Sol Benchmarks erklärt