GPT-6.1 Solには、5つの推論努力レベルがあります: low, medium (デフォルト), high, xhigh, および max。GPT-6 Solからの大きな変更点は、 none と minimal がなくなり、 low が今や最低レベルになったことです。
この1つの設定が、レイテンシとコストの両方に影響を与えます。推論トークンは目に見えませんが、出力レート（AIHubMixでの6.1 Solは100万トークンあたり10ドル）で支払う必要があり、コンテキストウィンドウ内のスペースを占有します。間違ったレベルを選ぶと、必要以上に何倍も支払うことになります。
各レベルの用途について
この表は、OpenAIの 推論ガイド からの説明と、私たち自身の推奨を組み合わせたものです:
| レベル | OpenAIの説明 | 適切な用途 | 不適切な用途 |
|---|---|---|---|
| low | 適度なレイテンシの増加で効率的な推論 | ツールループ内の中間ステップ、検索、軽い計画、分類、抽出、サポート返信 | 難しいデバッグ、複数ファイルのリファクタリング |
| medium (デフォルト) | ほとんどの作業負荷に対するバランスの取れたデフォルト | 日常的なコーディング、コードレビュー、執筆、典型的なエージェントタスク | レイテンシが重要なインタラクティブな使用 |
| high | 難しい推論、複雑なデバッグ、深い計画 | 厄介なバグ、アーキテクチャ作業、SWEスタイルのタスク | 高いQPSのオンライントラフィック |
| xhigh | 深い研究、非同期作業、長時間のエージェント実行 | バックグラウンドジョブ、研究報告 | 評価が正当化していないもの |
| max | 最も難しいタスクのための最大の推論 | コンピュータ使用、研究レベルの問題、オフラインでの重作業 | ほとんどすべての日常的なリクエスト |
OpenAIは努力を「品質を回復するための主な方法ではなく、調整ノブ」と呼んでいます。結果が悪い場合は、まずプロンプト、ツール定義、およびコンテキストを確認してください。その後で努力を上げてください。
各レベルに関するベンチマークの結果
これらはOpenAI自身の数値であり、 Vellum と DataCamp によってまとめられたものです。ガイドとして扱い、絶対的なものではありません。
コーディングには、高が通常十分です。 DeepSWE v1.1では、6.1 Solの高は75.2をスコアし、Astraの高（74.8）と一致し、タスクあたり約1.50ドルです。コスト曲線は、タスクあたり0.50ドルから1.50ドルの間で72%から75%に達します。GPT-6 Solは約2.60ドルで68.8に達しました。
中以上に上げても必ずしも効果があるわけではありません。 AutomationBenchでは、6.1 Solは中で35.4%をスコアし、高い努力では約36.0%にしかなりません。ビジネスオートメーションでは、追加の推論トークンはほとんど効果がありませんでした。
コンピュータ使用と研究にはmaxを保存してください。 OSWorld 2.0では、maxはタスクあたり約1.30ドルで71.4を得ます。Terminal-Bench Scienceでのmaxはタスクあたり5.47ドルで、Astraの23.80ドルよりはるかに安価ですが、他のほとんどの作業負荷よりも桁違いに高いです。
低も改善されました。 低での事実誤り率は、6 Solの11.4%から7.7%に低下しました。低が十分に正確でなかったためにタスクを中に上げた場合は、再度低を試してみてください。
ユースケース別のスタートポイント
| ユースケース | 開始レベル | ノート |
|---|---|---|
| 6 Solでnoneを使用していた呼び出し | low | OpenAIの公式マッピング。レイテンシが重要な場合は、noneをサポートしているGPT-6 Lunaを検討してください。 |
| minimalを使用していた呼び出し | low | lowから始めて結果を比較してください。 |
| チャットボット、カスタマーサポート | low | モデルに1行の前文を求めて、最初のトークンを早く出すようにします。 |
| RAG Q&A | low → medium | 取得の質が努力よりも重要です。 |
| IDEコーディングアシスタント | medium | デフォルトが機能します。 |
| 自動バグ修正、SWEエージェント | high | DeepSWEは高がすでにAstraと一致していることを示しています。 |
| コンピュータ使用、ブラウザエージェント | high → max | OSWorldはmaxでピークに達します。 |
| バックグラウンド研究、長時間の実行 | xhigh | 評価が利益を示す場合のみ。結果がすぐに必要でない場合は、バッチ処理でコストを半分にできます。 |
| 最も難しい研究問題 | max、またはAstraを使用してください。 | OpenAIはここでもAstraを推奨しています。 |
none および minimal のマッピングは、OpenAIの GPT-6移行ガイド からのものです。
会話の途中での努力の変更
一般的なパターンは、高で計画し、低で実行し、何かが壊れたときに再び高に戻すことです。
注意点: リクエストで reasoning.effort を編集すると、プロンプトキャッシュが壊れます。 努力はキャッシュされたプレフィックスの一部です（ プロンプトキャッシュガイド を参照）。6.1 Solでは、キャッシュの読み取りは100万トークンあたり0.10ドルのコストがかかり、キャッシュの書き換えは2.50ドルのコストがかかります。これは25倍の違いです。
GPT-6ファミリーは、 configuration_update 入力項目でこれを修正します。 リクエストレベルの reasoning.effort はそのままにしておき、次のユーザーメッセージの前に更新を挿入してください。 以下は、 AIHubMix Responses API を通じての例です:
from openai import OpenAI
import os
client = OpenAI(
api_key=os.environ["AIHUBMIX_API_KEY"],
base_url="https://aihubmix.com/v1",
)
# ターン1: 高努力で計画
r1 = client.responses.create(
model="gpt-6.1-sol",
reasoning={"effort": "high"},
input="このリポジトリのテストが失敗している理由を特定し、修正計画を提案してください。",
)
# ターン2: 実行のために低に下げるが、リクエストレベルの努力には触れない
r2 = client.responses.create(
model="gpt-6.1-sol",
reasoning={"effort": "high"}, # 変更なし、キャッシュが生き残る
previous_response_id=r1.id,
input=[
{"type": "configuration_update", "reasoning": {"effort": "low"}},
{"role": "user", "content": "計画のステップ1を実行してください。"},
],
)
configuration_updateの形は例示的です。正確なスキーマについてはOpenAIの推論ガイドを確認してください。AIHubMixのResponsesドキュメントでは現在、4つのレベル（minimalからhigh）をリストしているので、xhigh、max、およびconfiguration_updateが通過することを確認するために、小さなテストリクエストを送信してください。
知っておくべきいくつかの制限:
- 標準の単一エージェントモードでのみ機能し、努力のみを変更します。
- 2つの更新が隣接することはできません。
- 自動圧縮や切り捨てとは混合できません。明示的な圧縮は問題ありませんが、その後に新しい更新を追加してください。
- レスポンスの
reasoning.effortフィールドはリクエストレベルの値を示すため、あまり気にしないでください。
努力に伴う設定
max_output_tokens に余裕を持たせてください。 上限には推論トークンが含まれます。これを低く設定しすぎると、モデルは可視テキストを生成する前に停止する可能性があります。 status: incomplete が返され、入力と推論に対して支払うことになります。OpenAIは、少なくとも25,000トークン を最初に予約することを推奨しており、xhighまたはmaxの場合はさらに多くのトークンを予約することを推奨しています。
推論トークンを追跡してください。 それらは usage.output_tokens_details.reasoning_tokens にあります。各努力レベルごとの分布を確認することは、感覚で調整するよりも効果的です。
可視性が必要な場合は要約をオンにしてください。 reasoning.summary: "auto" はモデルの推論の要約を返します（最初に組織を確認する必要があるかもしれません）。生の推論は決して公開されません。
プロモードは別のスイッチです。 これにより、モデルはより多くの作業を行い、標準料金で請求されますが、全体的にトークンが増えます。追加のレイテンシが許容される難しい問題に使用してください。
実行可能な調整プロセス
- 20から50の実際のタスクを評価セットに引き込む。
-
mediumでベースラインを実行する。成功率、平均推論トークン、およびP95レイテンシを記録する。 -
lowを試す。成功がほとんど落ちない場合は、切り替える。 -
highを試す。成功が明らかに改善される場合、そのタスクタイプには高を使用する。 -
xhighまたはmaxに手を伸ばすのは、高が不足している場合のみで、同時に高でのGPT-6 Astraと比較してください。時には、より大きなモデルがより多くの努力に勝ることがあります。AIHubMixでは、これは単にmodelパラメータの変更であり、 モデルリスト で利用可能なものを確認できます。 - 1つのグローバル設定を使用するのではなく、タスクタイプでルーティングします。
要約すると: mediumから始め、lowでコストを節約し、コーディングにはhighを使用し、xhighとmaxは評価で自ら証明させてください。
次に: キャッシング、長いコンテキスト、および請求の乗数が影響を及ぼすときに、$2 / $10の価格タグが本当に意味するものについて。
FAQ
GPT-6.1 Solのデフォルトの推論努力は何ですか？ medium です。設定しない場合、それが適用されます。
none がエラーを返すのはなぜですか？ 6.1 Solは none または minimal をサポートしていません。OpenAIは low への切り替えを推奨しています。もし本当に none が必要な場合は、GPT-6 SolまたはGPT-6 Lunaを使用してください。
推論トークンはどのように請求されますか？ 出力レート（6.1 Solの場合100万トークンあたり10ドル）で請求され、コンテキストウィンドウに対してカウントされます。実際の数値は usage.output_tokens_details.reasoning_tokens を確認してください。
パラメータ名はチャット完了とレスポンスで同じですか？ いいえ。チャット完了ではトップレベルの reasoning_effort を使用し、レスポンスではネストされた reasoning: {"effort": ...} を使用します。混同すると Unsupported parameter が返されます。
高い努力は常により良い結果をもたらしますか？ いいえ。AutomationBenchでは、中以上に上げてもスコアは35.4%から約36.0%にしか移動せず、コストも明らかに増加しました。自分のタスクでテストしてください。
会話の途中で努力を変更できますか？ はい。 configuration_update 項目を使用し、リクエストレベルの reasoning.effort を変更せずにプロンプトキャッシュを有効に保ちます。自動圧縮や切り捨てとは機能しません。
status: incomplete で出力なしになったのはなぜですか？ おそらく max_output_tokens が低すぎて、推論がそれを使い果たしたためです。OpenAIは少なくとも25,000トークンを予約することを推奨しています。
読み続ける: GPT-6.1 Solシリーズ
- 請求のうち推論はどのくらいですか？ 努力は唯一のレバーではありません。キャッシング、272Kの閾値、およびバッチ割引が最終的な数字に影響を与えます。 GPT-6.1 Solの実際のコスト: $2 / $10の価格タグを超えて を参照してください。
-
noneを使用していたコードは？ 低に切り替えることは始まりに過ぎません。ツール呼び出し、サンプリングパラメータ、およびキャッシュ設定も変更が必要です: GPT-6.1 Solへの移行: 9つの問題点 を参照してください。 - 6.1 Solは6 SolやAstraよりどれだけ優れていますか？ 仕様とベンチマークを並べて比較したものは、 GPT-6.1 Sol vs GPT-6 Sol: Astraにほぼ追いつく1週間のアップグレード で確認できます。
