GPT-6.1 Sol için Akıl Yürütme Çabasını Seçmek: low'dan max'a

AIHubMix6 dk okuma
GPT-6.1 Sol için Akıl Yürütme Çabasını Seçmek: low'dan max'a

GPT-6.1 Sol beş akıl yürütme çabası seviyesine sahiptir: low, medium (varsayılan), high, xhigh ve max. GPT-6 Sol'dan en büyük fark, none ve minimal seçeneklerinin kaldırılmış olmasıdır; bu nedenle low artık en alt seviyedir.

Bu tek ayar hem gecikmeyi hem de maliyeti belirler. Akıl yürütme token'larını asla görmezsiniz, ancak bunlar için çıktı oranından ödeme yaparsınız (AIHubMix'te 6.1 Sol için milyon başına 10 $) ve bağlam penceresinde yer kaplarlar. Yanlış seviyeyi seçerseniz, ihtiyacınızdan kolayca birkaç kat fazla ödeyebilirsiniz.


Her seviyenin kullanım amacı

Bu tablo, OpenAI'nin akıl yürütme rehberindeki açıklamalarını kendi önerilerimizle birleştirmektedir:

SeviyeOpenAI'nin açıklamasıUygun kullanımUygun olmayan kullanım
lowHafif bir gecikme artışıyla verimli akıl yürütmeAraç döngülerindeki ara adımlar, arama, hafif planlama, sınıflandırma, çıkarma, destek yanıtlarıZor hata ayıklama, çok dosyalı yeniden düzenlemeler
medium (varsayılan)Çoğu iş yükü için dengeli varsayılanGünlük kodlama, kod incelemesi, yazım, tipik ajan görevleriGecikmeye duyarlı etkileşimli kullanım
highZor akıl yürütme, karmaşık hata ayıklama, derin planlamaZor hatalar, mimari çalışma, SWE tarzı görevlerYüksek QPS'li çevrimiçi trafik
xhighDerin araştırma, asenkron çalışma, uzun ajan çalıştırmalarıArka plan işleri, araştırma raporlarıDeğerlendirmelerinizin gerekçelendirmediği her şey
maxEn zor görevler için maksimum akıl yürütmeBilgisayar kullanımı, araştırma düzeyinde problemler, çevrimdışı yoğun işlerGünlük isteklerin neredeyse tamamı

OpenAI çabaya "kaliteyi geri kazanmanın birincil yolu değil, bir ayar düğmesi" der. Sonuçlar kötü olduğunda önce isteme, araç tanımlarına ve bağlama bakın. Çabayı ancak bundan sonra artırın.


Kıyaslamaların her seviye hakkında söyledikleri

Bunlar OpenAI'nin kendi rakamları olup Vellum ve DataCamp tarafından derlenmiştir. Bunları bir rehber olarak değerlendirin, kesin gerçek olarak değil.

Kodlama için çoğunlukla high yeterlidir. DeepSWE v1.1'de high seviyesindeki 6.1 Sol 75.2 puan alır; bu, high seviyesindeki Astra'nın (74.8) puanıyla eşleşir ve görev başına yaklaşık $1.50 tutar. Maliyet eğrisi, $0.50 ile $1.50 arasında görev başına %72 ile %75'e ulaşır. GPT-6 Sol ise görev başına yaklaşık $2.60 karşılığında 68.8 ile en yüksek puanı almıştır.

Medium'un üzerine çıkmak her zaman yardımcı olmaz. AutomationBench'te 6.1 Sol, medium seviyesinde %35.4, daha yüksek çabada ise yalnızca yaklaşık %36.0 puan alır. İş otomasyonu için ek akıl yürütme token'ları neredeyse hiçbir şey kazandırmadı.

max'i bilgisayar kullanımı ve araştırma için saklayın. OSWorld 2.0'da max, görev başına yaklaşık $1.30 karşılığında 71.4 puan alır. Terminal-Bench Science'ta max görev başına $5.47 tutar: bu, Astra'nın $23.80'inden çok daha ucuz, ancak diğer çoğu iş yükünün bir kademe üzerindedir.

Low da iyileşti. low seviyesindeki olgusal hata oranı 6 Sol'daki %11.4'ten 6.1 Sol'da %7.7'ye düştü. Low yeterince doğru olmadığı için 6 Sol'da görevleri medium'a çıkardıysanız, low'u yeniden deneyin.


Kullanım senaryolarına göre başlangıç noktaları

Kullanım senaryosuBaşlangıçNotlar
6 Sol'da none kullanan çağrılarlowOpenAI'nin resmi eşlemesi. Gecikme kritikse, hâlâ none'ı destekleyen GPT-6 Luna'yı düşünebilirsiniz
minimal kullanan çağrılarlowlow ile başlayın ve sonuçları karşılaştırın
Sohbet robotları, müşteri desteğilowİlk token'ı daha erken almak için modelden tek satırlık bir giriş cümlesi isteyin
RAG soru-cevaplow → mediumGeri getirme kalitesi, çabadan daha önemlidir
IDE kodlama asistanımediumVarsayılan işe yarıyor
Otomatik hata düzeltme, SWE ajanlarıhighDeepSWE, high seviyesinin zaten Astra ile eşleştiğini gösteriyor
Bilgisayar kullanımı, tarayıcı ajanlarıhigh → maxOSWorld en yüksek performansı max seviyesinde gösterir
Arka plan araştırması, uzun çalıştırmalarxhighYalnızca değerlendirmeler bir kazanç gösterdiğinde. Sonuçlara hemen ihtiyacınız yoksa Batch maliyeti yarıya indirir
En zor araştırma problemlerimax, ya da doğrudan AstraOpenAI burada da Astra'yı önerir

none ve minimal eşlemeleri OpenAI'nin GPT-6 geçiş rehberinden alınmıştır.


Konuşma sırasında çabayı değiştirmek

Yaygın bir kalıp, high'da planlamak, low'da yürütmek ve bir şey bozulduğunda yeniden high'a dönmektir.

Dikkat edilmesi gereken nokta: istekteki reasoning.effort değerini düzenlemek istem önbelleğinizi bozar. Çaba, önbelleğe alınmış önekin bir parçasıdır (bkz. istem önbelleğe alma rehberi). 6.1 Sol'da bir önbellek okuması milyon token başına $0.10 tutarken, önbelleği yeniden yazmak $2.50 tutar. Bu, 25× fark demektir.

GPT-6 ailesi bunu bir configuration_update girdi öğesiyle çözer. İstek düzeyindeki reasoning.effort değerine dokunmayın ve bir sonraki kullanıcı mesajından önce bir güncelleme ekleyin. AIHubMix Responses API üzerinden bunun nasıl göründüğü şöyle:

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

# Turn 1: plan at high effort
r1 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},
    input="Figure out why this repo's tests are failing and propose a fix plan.",
)

# Turn 2: drop to low for execution, without touching request-level effort
r2 = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "high"},           # unchanged, so the cache survives
    previous_response_id=r1.id,
    input=[
        {"type": "configuration_update", "reasoning": {"effort": "low"}},
        {"role": "user", "content": "Carry out step 1 of the plan."},
    ],
)
Yukarıdaki configuration_update yapısı örnek amaçlıdır. Kesin şema için OpenAI'nin akıl yürütme rehberine bakın. AIHubMix'in Responses dokümantasyonu şu anda dört seviye (minimal'den high'a) listelediğinden, xhigh, max ve configuration_update değerlerinin geçtiğini doğrulamak için küçük bir test isteği gönderin.

Bilmeniz gereken bazı sınırlar:

  • Yalnızca standart tek ajanlı modda çalışır ve yalnızca çabayı değiştirir.
  • İki güncelleme birbirinin yanına konamaz.
  • Otomatik sıkıştırma veya kırpma ile birlikte çalışmaz. Açık sıkıştırma sorun değildir, ancak ardından yeni bir güncelleme ekleyin.
  • Yanıttaki reasoning.effort alanı hâlâ istek düzeyindeki değeri gösterir, bu yüzden bu alandan fazla sonuç çıkarmayın.

Çabayla birlikte gelen ayarlar

Yanıt için max_output_tokens içinde yer bırakın. Sınır akıl yürütme token'larını da içerir. Çok düşük ayarlanırsa model görünür metin üretmeden durabilir. status: incomplete alırsınız ve yine de girdi ile akıl yürütme için ödeme yaparsınız. OpenAI, başlangıç için en az 25.000 token ayırmayı önerir; xhigh veya max için daha fazlasını.

Akıl yürütme token'larını izleyin. Bunlar usage.output_tokens_details.reasoning_tokens içindedir. Çaba seviyesi başına dağılıma bakmak, hislerle ayar yapmaktan daha iyidir.

Görünürlüğe ihtiyacınız varsa özetleri açın. reasoning.summary: "auto" modelin akıl yürütmesinin bir özetini döndürür (önce kuruluşunuzu doğrulamanız gerekebilir). Ham akıl yürütme asla açığa çıkarılmaz.

Pro modu ayrı bir anahtardır. Modelin daha fazla iş yapmasını sağlar; standart oranlarla faturalandırılır, ancak toplamda daha fazla token kullanılır. Ek gecikmenin kabul edilebilir olduğu zor problemler için kullanın.


Gerçekten uygulayabileceğiniz bir ayarlama süreci

  1. Değerlendirme kümenize 20 ila 50 gerçek görev ekleyin.
  2. medium ile bir temel çalıştırma yapın. Başarı oranını, ortalama akıl yürütme token'larını ve P95 gecikmesini kaydedin.
  3. low deneyin. Başarı neredeyse hiç düşmezse, geçin.
  4. high deneyin. Başarı belirgin şekilde artarsa, high'ı yalnızca o görev türü için kullanın.
  5. Yalnızca high yetersiz kaldığında xhigh veya max seviyelerine başvurun ve bu arada GPT-6 Astra'yı high seviyesinde karşılaştırın. Bazen daha büyük bir model, daha fazla çabadan daha iyi sonuç verir. AIHubMix'te bu yalnızca model parametresinde bir değişikliktir ve model listesi hangilerinin mevcut olduğunu gösterir.
  6. Tek bir genel ayar yerine göreve göre yönlendirin.

Kısa özet: medium ile başlayın, low ile para tasarrufu yapın, kodlama için high kullanın ve xhigh ile max'in değerlendirmelerinizde kendini kanıtlamasını sağlayın.

Sırada: önbelleğe alma, uzun bağlam ve faturalandırma çarpanları devreye girdiğinde $2 / $10 fiyat etiketinin gerçekte ne anlama geldiği.


SSS

GPT-6.1 Sol için varsayılan akıl yürütme çabası nedir? medium. Ayarlamazsanız, elde edeceğiniz değer budur.

none neden hata döndürüyor? 6.1 Sol, none veya minimal seçeneklerini desteklemez. OpenAI, low seviyesine geçmeyi önerir. Gerçekten none gerekiyorsa GPT-6 Sol veya GPT-6 Luna'da kalın.

Akıl yürütme token'ları nasıl faturalandırılır? Çıktı oranından (6.1 Sol için milyon başına $10) faturalandırılır ve bağlam penceresine dahil olarak sayılır. Gerçek rakamlar için usage.output_tokens_details.reasoning_tokens değerine bakın.

Parametre adı Chat Completions ve Responses'ta aynı mı? Hayır. Chat Completions üst düzeyde reasoning_effort kullanır. Responses ise iç içe reasoning: {"effort": ...} kullanır. Bunları karıştırmak Unsupported parameter hatası döndürür.

Daha yüksek çaba her zaman daha iyi sonuç verir mi? Hayır. AutomationBench'te medium'un üzerine çıkmak puanı yalnızca %35.4'ten yaklaşık %36.0'a taşıdı; bu, belirgin şekilde daha fazla maliyet demekti. Kendi görevlerinizde test edin.

Konuşmanın ortasında çabayı değiştirebilir miyim? Evet. Bir configuration_update öğesi kullanın ve istem önbelleğinin geçerli kalması için istek düzeyindeki reasoning.effort değerine dokunmayın. Otomatik sıkıştırma veya kırpma ile çalışmaz.

Çıktı olmadan neden status: incomplete aldım? Büyük olasılıkla max_output_tokens çok düşüktü ve akıl yürütme hepsini tüketti. OpenAI en az 25.000 token ayırmayı önerir.


Okumaya devam edin: GPT-6.1 Sol serisi


Kaynaklar

Birden çok yapay zekâ sağlayıcısına tek ağ geçidi. Üretim için tasarlandı.

AIHubMix sitesini ziyaret edin