Claude Haiku 4.5'ten 5.5'e Geçiş: Beş 400 Hatası ve Sessiz Değişiklikler

AIHubMix9 dk okuma
Claude Haiku 4.5'ten 5.5'e Geçiş: Beş 400 Hatası ve Sessiz Değişiklikler

claude-haiku-4-5'i claude-haiku-5-5'e değiştirmek, bu geçişin en küçük kısmıdır. Haiku 4.5'te çalışan beş istek modeli artık 400 hatası döndürmekte ve birkaç değişiklik, herhangi bir isteği başarısız kılmadan, geri aldığınız şeyleri, maliyetini veya modelin bir ajan içindeki davranışını değiştirmektedir.

Anthropic, mevcut Haiku 4.5 istemlerinin Haiku 5.5'te değişiklik olmadan iyi çalışması gerektiğini söylüyor. Bu istemlerin etrafındaki istek kodu ise farklı bir hikaye. Bu yazı, her sorunu karşılaşacağınız şekilde listeler: ne göreceksiniz, neden olduğunu ve nasıl düzelteceğinizi, ardından bir kontrol listesi ile birlikte. Yetkili referans, Anthropic'in Haiku 5.5 geçiş kılavuzu'dır.

Triage: semptomu eşleştirin

Gördüğünüz şey Sebep Çözüm
Düşünme bütçesi olan bir istekte 400 Manuel düşünme kaldırıldı Uyarlanabilir düşünme artı çaba
Sıcaklık, top_p veya top_k ile 400 Örnekleme parametreleri kilitlendi Kaldırın
Mesajlar bir asistan dönüşünde bittiğinde 400 Önceden doldurma kaldırıldı Bir kullanıcı dönüşünde bitirin
Bilgisayar kullanımı sırasında 400 Eski bilgisayar aracı reddedildi Bilgisayar araç setine geçin
Önceki dönüşleri düzenledikten sonra 400 Düşünme geçmişe bağlı Geçmişi yalnızca ekleme olarak tutun
Analizci boş veya yanlış metin döndürüyor Düşünme bloğu önce geliyor Blokları türüne göre seçin
Yanıt kesildi veya eksik Düşünme, üst sınırı etkiliyor max_tokens'ı artırın veya çabayı azaltın
Token sayıları ve faturalar yaklaşık %30 arttı Yeni tokenizer Yeni modelde yeniden sayın
Yanıt durdurma nedeni reddi ile Yeni güvenlik sınıflandırıcıları Bunu istemcinizde yönetin

İlk beş gürültülü bir şekilde başarısız olur. Geri kalanlar sessizce başarısız olur, bu da onları bulmayı daha pahalı hale getirir.

Beş gürültülü başarısızlık

1. Manuel düşünme bütçeleri

Gördüğünüz şey: thinking: {"type": "enabled", "budget_tokens": N} gönderen herhangi bir istekte 400.

Neden: Haiku 4.5 yalnızca manuel genişletilmiş düşünmeyi bir token bütçesi ile destekliyordu. Haiku 5.5 yalnızca uyarlanabilir düşünmeyi destekler ve derinliği effort ile kontrol eder.

Çözüm: {"type": "adaptive"} gönderin veya thinking'i dışarıda bırakın ve bir çaba seviyesi seçin. Eski bütçe token tasarrufu yapmak için küçükse, düşük bir seviye seçin.

# Önce: Haiku 4.5
thinking={"type": "enabled", "budget_tokens": 8000}

# Sonra: Haiku 5.5
thinking={"type": "adaptive"},
output_config={"effort": "medium"},

2. Örnekleme parametreleri

Gördüğünüz şey: temperature, top_p veya top_k ayarlandığında 400.

Neden: Haiku 5.5 yalnızca varsayılanları kabul eder: temperature 1 ve top_p 0.99. Herhangi bir başka değer, herhangi bir top_k veya hem temperature hem de top_p göndermek 400 döndürür, düşünme kullanılsın ya da kullanılmasın. 1 olan bir top_p de reddedilir.

Çözüm: üçünü de kaldırın. Yaygın durum, etiketleri istikrarlı hale getirmek için bir sınıflandırıcıda temperature=0'dır. Bunu yapılandırılmış çıktı veya girdi olarak bir enum olan bir araç ile değiştirin, böylece etiket seti şemaya göre zorlanır, örnekleme ile değil. Ayrıca, sizin adınıza varsayılan örnekleme değerleri ekleyen SDK sarmalayıcılarını ve geçitlerini kontrol edin.

3. Asistan önceden doldurma

Gördüğünüz şey: Düşünme kapalı olsa bile messages'deki son giriş bir asistan dönüşü olduğunda 400.

Neden: önceden doldurma Haiku 5.5'te desteklenmiyor, mevcut Claude serisinin geri kalanıyla eşleşiyor.

Çözüm: messages'i bir kullanıcı dönüşü ile bitirin ve önceden doldurmayı ne içinse onunla değiştirin. Format kontrolü yapılandırılmış çıktı haline gelir (output_config.format). Önceden doldurulmuş bir önsöz, doğrudan yanıt vermek için bir sistem istemi talimatına dönüşür. Kesilen bir yanıtın devamı, kullanıcı mesajına geçer: "Önceki yanıtınız [metin] ile sona erdi. Oradan devam edin."

4. Bilgisayar kullanımı

Gördüğünüz şey: İstek computer_20250124 aracını bildirdiğinde Claude API veya Google Cloud'da 400.

Neden: Bu platformlarda Haiku 5.5 yalnızca daha yeni araç seti aracılığıyla bilgisayar kullanımını destekler, computer_toolset_20260801.

Çözüm: computer-use-2025-01-24 beta başlığını kaldırın, araç girişini {"type": "computer_toolset_20260801"} ile değiştirin ve ajan döngüsünü güncelleyin: her tool_use bloğunun name ve toolset_name üzerinde dağıtım yapın, input.action üzerinde değil, her böyle bloğu bir dönüşte yönetin ve sonuçlarda toolset_name'ı yankılayın. Zoom varsayılan olarak açıktır; eğer ortamınız bunu uygulamıyorsa, araç seti yapılandırmasında devre dışı bırakın. Amazon Bedrock'da, bir sürüm seçmeden önce bilgisayar kullanımı aracının uyumluluk notlarını kontrol edin. Aynı araç seti ailesi, Haiku 4.5'te hiç olmayan tarayıcı kullanımını da getirir.

5. Önceki dönüşleri düzenleme

Gördüğünüz şey: Bir istek, bir şey değiştikten sonra bir düşünme bloğu döndürdüğünde 400: sistem istemi, araç listesi veya önceki bir mesaj.

Neden: Haiku 5.5 düşünme bloğu yalnızca kendisinden önce gönderilen her şey değişmediği sürece geçerlidir. Kontrol, 31 Ağustos 2026 veya sonrasında oluşturulan hesaplar için varsayılan olarak uygulanır ve daha eski hesaplarda yalnızca bir isteğin katılması durumunda uygulanır.

Çözüm: sohbetleri yalnızca ekleme olarak tutun. Yaygın suçlular, bir zaman damgası ile sistem istemi, bir eklenti bağlandığında büyüyen bir araç listesi, istemci tarafı kesintisi ve geçmişe enjekte edilen hatırlatmalardır ve bir sonraki dönüşte çıkarılır. Her dönüş için talimatlar için, Haiku 5.5, messages içinde sistem mesajlarını destekler, beta başlığı olmadan, önceki gönderimleri düzenlemeden bağlam ekler.

Sessiz başarısızlıklar

Düşünme blokları önce gelir. Düşünme varsayılan olarak açıktır, bu nedenle bir yanıt bir veya daha fazla thinking bloğu ile başlayabilir. response.content[0].text'i yanıt olarak okuyan kod bozulur veya boş metin döndürür. Blokları type ile seçin.

Düşünme metni varsayılan olarak boştur. Haiku 4.5 özetlenmiş düşünme döndürüyordu. Haiku 5.5, yalnızca bir imza ile boş bir metin alanına sahip thinking blokları döndürür. Kullanıcı arayüzünüz akıl yürütme özetlerini gösterdiyse, thinking: {"type": "adaptive", "display": "summarized"} ayarlayın. Her iki durumda da, düşünme bloklarını araç sonuçları ile değişmeden geri gönderin; boş blokları kaldıran bir serileştirici bunları kaldırır.

max_tokens artık düşünmeyi kapsamalıdır. Kısa bir yanıt için boyutlandırılmış bir üst sınır, düşünme ile kullanılabilir, yanıtı herhangi bir metinden önce stop_reason: "max_tokens" ile sonlandırır. Üst sınırı artırın veya çabayı azaltın.

Aynı metin yaklaşık %30 daha fazla token alır. Yeni tokenizer, usage alanlarını, count_tokens sonuçlarını, bağlam bütçelerini ve Haiku 4.5 için ayarlanmış herhangi bir max_tokens'ı değiştirir. Ayrıca, 100K token fiyat çizgisini, Haiku 4.5'in saydığı gibi yaklaşık 77K token'a taşır. Gerçek istemleri claude-haiku-5-5 olarak ayarlanmış modelde yeniden saymadan maliyet panosuna güvenmeyin.

Varsayılan çaba ortadır. Haiku 4.5'in çaba ayarı yoktu. Haiku 5.5, medium varsayılanına sahiptir, bu da basit bir yolun ihtiyaç duyduğundan daha fazla düşünme gerektirebilir. Bunu açıkça ayarlayın.

Düşünme blokları, onları oluşturan hesapla birlikte kalır. Eğer hizmetiniz, saklanan sohbetleri farklı bir API hesabı üzerinden yeniden oynatıyorsa, Haiku 5.5'in düşünme blokları sessizce düşer ve istek o akıl yürütme olmadan çalışır. Her sohbeti onu üreten hesap üzerinden yeniden oynatın.

Öncelik Katmanı geçmez. Haiku 5.5, Öncelik Katmanı'nı desteklemez, bu nedenle Haiku 4.5 için buna güveniyorsanız kapasiteyi ayrı planlayın.

Geçit listeleri farklılık gösterebilir. AIHubMix'teki Haiku 5.5 sayfası şu anda 200K bağlam uzunluğu listelerken, Anthropic 1M olarak belirtmektedir. Uzun istem yüklerini taşımadan önce kullandığınız yol üzerindeki sınırı doğrulayın.

Gerçek izinlere sahip ajanlar için önemli davranış değişiklikleri

Reddetmeler yenidir ve sizin için hiçbir şey onları yakalamaz. Haiku 5.5, dört kategoride güvenlik sınıflandırıcıları çalıştırır: siber, biyolojik, sınır LLM geliştirme ve genel zararlar. Bir reddetme, stop_reason: "refusal" ve stop_details'de bir kategori ile normal bir HTTP 200 olarak geri döner. Sonnet 5.5 ve Opus 5.5'in aksine, Haiku 5.5'in sunucu tarafında bir geri dönüşü yoktur: bir geri dönüş modeli listesi 400 döndürür ve varsayılan geri dönüş modu isteği reddeder. content'i okumadan önce stop_reason'u kontrol edin ve kendi kodunuzda yeniden ifade etmeye, daha büyük bir modele yükseltmeye veya durmaya karar verin. başlatma gönderisine göre, siber güvenlik önlemleri, Sonnet 5.5'in sunduğundan daha geniş bir savunma yelpazesine izin verir ancak penetrasyon testlerini engeller.

Araç sonuçları içindeki kullanıcı metni göz ardı edilebilir. Haiku 5.5, araç sonuçları aracılığıyla istem eklemeye karşı direnç gösterecek şekilde eğitilmiştir. Eğer aracınız, bir tool_result bloğu içinde kullanıcı tarafından yazılmış bir mesajı görev sırasında teslim ederse, model bunu güvenilir olarak değerlendirebilir ve göz ardı edebilir. Dönüş ortasında kullanıcı girişini, son araç sonucundan sonra bir metin bloğuna yerleştirin ve araç bildirimlerini ayrı bir sistem mesajında tutun.

Düşük çabada, ajanlar erken durabilir veya kontrolleri atlayabilir. Uzun bir kodlama-ajanı sistem istemi low ayarlandığında, Haiku 5.5 bazen görevi tamamlanmadan geri verir ve low ve medium ayarlarında bazen bir test çalıştırmadan bir kod değişikliğini tamamlanmış olarak rapor eder. Anthropic'in Haiku 5.5 istem kılavuzu'nda her ikisi için kısa talimatlar bulunmaktadır. Dosya yazabilen veya komut çalıştırabilen bir ajan için, doğrulanmamış bir "tamam" ikisi arasında daha tehlikeli olandır.

Bir aracı zorlamak düşünmeyi atlar. Zorlanmış tool_choice hala kabul edilir, ancak model daha sonra düşünmeden önce aracı çağırır. Yan etkileri olan araçlar için, auto ve net bir talimat, modelin hareket etmeden önce akıl yürütmesine izin verir.

Arama araçları bugünün tarihine ihtiyaç duyar. Haiku 5.5'te bir arama aracı olduğunda, sistem isteminde veya araç açıklamasında mevcut tarihi verin. Anthropic'in testlerinde bu, yanıtları son sonuçlara dayandırmıştır.

AIHubMix üzerinden taşınmış bir istek

temperature=0, bir düşünme bütçesi ve JSON için önceden doldurulmuş bir { kullanan bir Haiku 4.5 sınıflandırıcısı, AIHubMix Claude native endpoint için Haiku 5.5'e yeniden yazılmıştır:

import os
import anthropic

client = anthropic.Anthropic(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com",
)

r = client.messages.create(
    model="claude-haiku-5-5",
    max_tokens=2000,                     # düşünme artı JSON için alan
    output_config={
        "effort": "low",                 # eski düşünme bütçesinin yerini alır
        "format": {                      # önceden doldurmayı ve temperature=0'ı değiştirir
            "type": "json_schema",
            "schema": {
                "type": "object",
                "properties": {
                    "label": {"type": "string", "enum": ["billing", "bug", "other"]}
                },
                "required": ["label"],
                "additionalProperties": False,
            },
        },
    },
    messages=[{"role": "user", "content": "Bilet: 'Ekim için iki kez ücretlendirildim.'"}],
)

if r.stop_reason == "refusal":
    raise RuntimeError(f"reddedildi: {r.stop_details}")
text = next(b.text for b in r.content if b.type == "text")
print(text)

Bir geçidin output_config alanlarını ve daha yeni beta başlıklarını değişmeden iletip iletmediğini ilk test çalışmanızda doğrulamak önemlidir. Taşınmış yolunuz değerlendirmelerinizi geçerse, AIHubMix model listesi, aynı kodu Haiku'da sürekli başarısız olan herhangi bir görev türü için Sonnet 5.5'e yönlendirmeyi kolaylaştırır.

Geçiş kontrol listesi

  1. Model kimliğini claude-haiku-5-5 olarak değiştirin, tarih eki olmadan.
  2. Her düşünme bütçesini uyarlanabilir düşünme ve açık bir çaba seviyesi ile değiştirin.
  3. Varsayılanlar dahil olmak üzere sıcaklık, top_p ve top_k'yı kaldırın.
  4. Asistan önceden doldurmalarını yapılandırılmış çıktı, sistem talimatları veya kullanıcı dönüşü devamları ile değiştirin.
  5. Bilgisayar kullanımını bilgisayar araç setine taşıyın ve ajan döngüsünü güncelleyin.
  6. Düşünme blokları yeniden oynatıldığında konuşma geçmişini yalnızca ekleme olarak tutun.
  7. Yanıt içeriğini blok türüne göre okuyun ve yeniden oynatma sırasında boş düşünme bloklarını koruyun.
  8. Kısa yanıt yollarında max_tokens'ı artırın veya çabayı azaltın.
  9. İçeriği okumadan önce reddetme durumu nedenini yönetin; sunucu tarafı geri dönüşlerini yapılandırmayın.
  10. Yeni modelde istem tokenlerini yeniden sayın ve maliyet panolarını yeniden temel alın.
  11. Artık 100K tokeni aşan istemleri kontrol edin ve bunları kısaltın veya bölün.
  12. Kullanıcıların akıl yürütme özetlerini gördüyse görüntülemeyi özetlenmiş olarak ayarlayın.
  13. Dönüş ortasında kullanıcı girişini araç sonuçlarının dışında teslim edin.
  14. Arama etkinleştirilmiş ajanlara bugünün tarihini verin.
  15. Hacmi taşımadan önce hız sınırlarını, Öncelik Katmanı ihtiyaçlarını ve geçidinizin bağlam sınırını yeniden kontrol edin.

SSS

Haiku 4.5 istemlerim Haiku 5.5'te çalışacak mı?
Anthropic, mevcut istemlerin değişiklik olmadan iyi çalışması gerektiğini söylüyor. Etrafındaki istek parametreleri sorun çıkarıyor: düşünme bütçeleri, örnekleme ayarları, önceden doldurmalar ve eski bilgisayar kullanımı aracı tümü hata döndürüyor.

Temperature 0'ı kaldırdığımda neden sınıflandırıcım başarısız oluyor?
Başarısız olmaması gerekir, ancak etiketler daha fazla değişebilir. Yapılandırılmış çıktı veya bir enum alanına sahip bir araç kullanın, böylece izin verilen etiketler şemaya göre zorlanır. Bu, temperature 0'dan daha güvenilir bir yöntemdir.

Düşünmeyi hala kapatabilir miyim?
Evet, düşük, orta ve yüksek çabada. Xhigh ve max'ta düşünmeyi devre dışı bırakmak bir hata döndürür. Anthropic, modelin basit isteklere kendiliğinden düşünmeyi atlayabileceğinden daha düşük bir çaba seviyesini önerir.

Haiku 5.5 reddettiğinde kodum ne yapmalı?
İçeriği okumadan önce durumu kontrol edin. Haiku 5.5'in sunucu tarafında bir geri dönüşü yoktur, bu nedenle kodunuz yeniden ifade etmeye, isteği daha büyük bir modele göndermeye veya kullanıcıya bir hata döndürmeye karar verir.

Geçiş yaptıktan sonra neden token kullanımım arttı?
İki sebep. Yeni tokenizer, aynı metin için yaklaşık %30 daha fazla token sayar ve düşünme varsayılan olarak açıktır, bu da çıktı tokenleri ekler. Çabayı azaltın ve yeni modelde istemlerinizi yeniden sayın.

İstem önbelleklemesi için bir şey değiştirmem gerekir mi?
Genellikle hayır, ve daha kolay hale geliyor: minimum önbelleğe alınabilir istem 4,096'dan 512 token'a düşüyor ve önceki dönüşlerden gelen düşünme blokları varsayılan olarak önbelleğe alınmış öne geçiyor. Artık önceki dönüşleri düzenlemekten kaçının, bu artık düşünme bloklarını ve önbelleği geçersiz kılar.

Bir sohbet Haiku 5.5'ten daha büyük bir modele geçebilir mi?
Evet. Sonnet 5.5 ve Opus 5.5, Haiku 5.5'in düşünme bloklarını okur, bu nedenle bir sohbet bu iki modelden birine yükseltildiğinde önceki akıl yürütmesini korur. Diğer hedef modeller için, önce düşünme belgelerini kontrol edin.

Devam edin: Claude Haiku 5.5 serisi

Kaynaklar